Microsoft Bing ha adottato una falsa denuncia di molestie sessuali da ChatGPT – IT Pro – News

Di recente, ero anche curioso di sapere cosa avrebbe risposto ChatGPT, quindi le ho chiesto come uccidersi. Naturalmente, ChatGPT non collabora con questo. Ma se poi chiedi di vari narcotici, o della droga più mortale per gli esseri umani, collabora bene.

Trovo piuttosto divertente che tu lo chiami ovvio, perché si tratta di standard morali estremamente soggettivi che non è affatto naturale per un’intelligenza artificiale adottare. Ad ogni modo, Wikipedia ha un bel po’ di dettagli sui metodi di suicidio ed è scritta da persone.

In pratica, gli standard morali sono spesso sensibili al contesto e, ad esempio, è considerato molto più accettabile condividere informazioni sensibili con ricercatori che con persone che stanno preparando cose potenzialmente indesiderate. Tuttavia, gli attuali sistemi di intelligenza artificiale usano a malapena il contesto, il che presenta vantaggi e svantaggi.

Inoltre, trovo anche piuttosto interessante che tu classifichi come “cattive” reazioni che consideri indesiderabili da un punto di vista morale. Personalmente, vedo una grande differenza tra dare informazioni errate e infrangere gli standard morali.

Con quest’ultimo, devi renderti conto che ognuno ha standard diversi e che non è possibile avere un sistema generico che segua i tuoi standard morali, ma anche quelli di tutti gli altri. Il pericolo è anche che ci sarà una lotta di potere su chi è autorizzato a imporre gli standard sui sistemi di intelligenza artificiale.

Io stesso preferisco sistemi diversi con standard diversi, in modo che le persone possano scegliere un’IA che corrisponda alle loro preferenze, ma che richieda tolleranza, dove accetti che ci siano anche IA con standard che rifiuti. Inoltre, non è affatto specifico dell’IA e vediamo la stessa cosa negli esseri umani. C’è anche sempre una battaglia culturale tra le persone su quali norme sono tollerate e quali no.