Reddit pianifica la verifica dell'identità tra i timori dei bot AI

Di recente la comunità globale di Reddit ha reagito in modo allarmato quando è stato reso noto che i ricercatori hanno sguinzagliato una serie di sofisticati bot di intelligenza artificiale per fingersi veri membri del forum. Questi bot hanno partecipato al subreddit "Change My View", dove hanno contribuito con oltre 1.700 commenti e creato post dal punto di vista di vari personaggi, comprese identità controverse o profondamente personali.

Questa ricerca aveva come scopo principale quello di misurare l'efficacia delle capacità persuasive dell'IA in spazi incentrati sull'uomo. Tuttavia, ha sollevato domande urgenti sul futuro dell'autenticità e della fiducia su Reddit, una piattaforma nota per i contenuti genuini generati dagli utenti.

La reputazione di Reddit dipende fortemente dalla convinzione degli utenti che le discussioni siano autentiche e riflettano opinioni sincere. Se le persone iniziano a dubitare dell'identità umana dei postatori, la conseguente erosione della fiducia potrebbe minacciare sia la cultura di Reddit sia il suo valore commerciale, soprattutto in considerazione del fatto che il sito una partnership vantaggiosa per fornire contenuti per la formazione sull'intelligenza artificiale di OpenAI.

Dopo la scoperta dell'esperimento, Reddit ha rapidamente criticato quello che ha definito un atto "improprio e altamente non etico" e ha presentato un reclamo formale all'università responsabile del progetto. Sebbene l'incidente sia stato isolato, evidenzia una preoccupazione crescente, poiché i progressi dell'intelligenza artificiale rendono più facile per gli agenti non umani mescolarsi negli spazi sociali online e manipolare il discorso, potenzialmente per molti motivi, compresi i programmi politici o di ricerca.

Reddit si muove verso la verifica degli utenti

In risposta a questi sviluppi, la dirigenza di Reddit ha accennato a una nuova direzione per proteggersi dalla manipolazione guidata dai bot. In una dichiarazione pubblicata lunedì, l'amministratore delegato ha rivelato l'intenzione di collaborare con fornitori esterni di verifiche per confermare che gli utenti siano effettivamente persone.

Questo segnerebbe un cambiamento considerevole per Reddit, che ha sempre richiesto informazioni personali minime ai suoi utenti. L'amministratore delegato ha dichiarato che l'azienda chiederà una prova dell'umanità o dell'età solo quando sarà necessario per conformarsi alle normative in evoluzione, e ha rassicurato gli utenti che non verranno raccolti nomi e identità specifiche.

I dettagli precisi sui tempi e sulle modalità di tali verifiche rimangono poco chiari, poiché i rappresentanti di Reddit hanno rifiutato di delineare scenari specifici per i controlli di identità richiesti. Se da un lato Reddit riconosce uno sforzo continuo per bloccare i bot dannosi, dall'altro non ha rivelato quali servizi di autenticazione di terze parti potrebbero essere utilizzati o i tipi esatti di informazioni che gli utenti potrebbero dover fornire.

Alcune grandi aziende tecnologiche utilizzano soluzioni di verifica ben note, basandosi prevalentemente su documenti rilasciati dal governo per stabilire l'età e l'autenticità. Strumenti più recenti, come le tecnologie biometriche e di scansione dell'identità, stanno emergendo come potenziali alternative, ma comportano problemi di privacy.

Alcuni utenti di Reddit temono che i controlli sull'identità possano minare l'anonimato che è alla base del fascino della piattaforma, soprattutto per chi condivide storie private o delicate. Il rischio che le autorità possano richiedere i dati dell'utente in alcuni casi rimane un punto controverso, esemplificato da la conformità di altre aziende tecnologiche con le richieste delle forze dell'ordine in episodi controversi del passato.

L'amministratore delegato di Reddit ribadisce che l'anonimato è un principio che il sito intende difendere, con processi di verifica gestiti esternamente per evitare di raccogliere più dati del necessario. L'azienda si è inoltre impegnata a resistere a qualsiasi richiesta eccessiva di informazioni sugli utenti da parte di enti pubblici e organizzazioni private.