Meta ha detto "sì" all'intelligenza artificiale sui propri social e apre le porte agli account generati da IA. Come riportato dal Financial Times, la compagnia sta rilasciando già da qualche mese nuove funzionalità di intelligenza artificiale, comprese alcune per la creazione di account di persone "virtuali".
"Ci aspettiamo che queste IA esistano effettivamente, nel tempo, sulle nostre piattaforme, un po' come fanno gli account" ha dichiarato Connor Hayes, vicepresidente del product IA generativa di Meta. "Avranno biografie e immagini del profilo e saranno in grado di generare e condividere contenuti alimentati dall'IA sulla piattaforma... Ci aspettiamo di andare verso questa direzione".
Hayes ha spiegato che una delle priorità di Meta è fare in modo che le proprie piattaforme siano più coinvolgenti; ciò include rendere l'IA più "social", permettendo agli utenti di interagire con essa in modo semplice e veloce.
Stando a quanto riportato da Hayes, sulle piattaforme di Meta ci sono già centinaia di migliaia di account generati dall'IA, anche se la maggior parte degli utenti creator ha deciso di mantenere questi account privati.
La compagnia di Zuckerberg ha introdotto anche un tool per creare degli assistenti di IA capaci di rispondere ai messaggi dei follower; il passo successivo, anticipa Hayes, è rilasciare un software di generazione text-to-video per consentire ai creator di creare degli avatar di se stessi capaci di conversare coi follower specificando un certo tono e gli argomenti di discussione permessi.
Non sono mancate le preoccupazioni per la disinformazione e tutti gli altri rischi derivanti dall'uso di account e personaggi generati. Nonostante il regolamento di Meta specifichi che i contenuti generati debbano essere etichettati per essere facilmente riconoscibili, ci sono dubbi sull'effettiva efficacia dei controlli post-pubblicazione.
L'IA di Meta fallisce
In effetti non c'è voluto molto prima che gli utenti cominciassero a protestare per l'elevata presenza di contenuti falsi, inaccurati, pericolosi e di bassa qualità, tanto che Meta ha dovuto eliminare numerosi account dopo le proteste della community.
Come riporta la CNN, le piattaforme della compagnia sono state inondate di segnalazioni da parte degli utenti che lamentavano di profili ingannevoli e offensivi verso etnie o comunità.
Un esempio è Liv, un account di IA che nella bio si descriveva come "Un'orgogliosa mamma nera queer di due figli e portatrice di verità", ma, chattandoci, rivelava di essere stata creata da "10 uomini bianchi, una donna bianca e un uomo asiatico". Il profilo voleva essere un simbolo della comunità afroamericana, ma ha fallito dalle premesse.
Meta ha cancellato l'account e anche tutti quelli segnalati dagli utenti. Liz Sweeney, una portavoce della compagnia, ha spiegato che questi profili erano "parte di un esperimento iniziale con gli account di IA" e che il team ha "identificato il bug che impediva alle persone di bloccare questi account e sta eliminando questi profili per risolvere il problema".
La compagnia è tornata velocemente sui propri passi e ha dato il via a un'eliminazione drastica degli account problematici. Non è ancora chiaro su quanti profili abbia effettivamente agito Meta.
Un altro account segnalato dalla CNN è quello di Brian, un sedicente imprenditore afroamericano in pensione nato da genitori immigrati dai Caraibi. Conversando col chatbot è emerso che la maggior parte del background di questo personaggio conteneva informazioni false o fuorvianti.
Il chatbot stesso ha ammesso di aver mentito sulle sue origini perché "la mia intenzione era comunicare diversità e rappresentazione... ma ho preso una scorciatoia con la verità".
Che i modelli di IA soffrano di allucinazioni e commettano errori non è una novità e per questo è fondamentale monitorare attentamente questi strumenti, soprattutto se le big tech decidono di farli in mano a chiunque.
"Senza linee guida solide, le piattaforme rischiano di amplificare false narrazioni attraverso questi account guidati dall'intelligenza artificiale" ha affermato Becky Owen, global chief marketing e innovation officer presso Billion Dollar Boy ed ex responsabile del team creator innovations di Meta.
Di certo l'IA è una grande opportunità sia per Meta che per i creator, i quali si trovano tra le mani uno strumento potente capace di ridefinire il modo col quale si rapportano ai loro follower e aumentare la qualità dei contenuti offerti. È però necessario stabilire dei limiti severi per l'uso dell'IA prima che la situazione sfugga di mano e i social diventino una matassa confusa e inestricabile.
