Campbell Brown ha dedicato la sua carriera alla ricerca di informazioni accurate, iniziando come nota giornalista televisiva e successivamente diventando il primo e unico responsabile delle notizie di Facebook. Oggi, osservando come l’IA stia cambiando il modo in cui le persone consumano informazioni, teme che la storia si stia ripetendo. Questa volta, però, non aspetterà che qualcun altro intervenga per risolvere il problema.
La sua azienda, Forum AI, è stata recentemente discussa in un incontro di StrictlyVC a San Francisco da Tim Fernholz di TechCrunch. Forum AI si propone di analizzare le prestazioni dei modelli di base su quelli che Brown definisce “temi ad alto rischio” — geopolitica, salute mentale, finanza e assunzioni, dove “non esistono risposte chiare sì o no, ma situazioni sfumate, complesse e articolate”.
Il progetto mira a coinvolgere i massimi esperti mondiali per definire standard di riferimento e formare giudici IA in grado di valutare i modelli su larga scala. Nel campo della geopolitica, Brown ha collaborato con figure di spicco come Niall Ferguson, Fareed Zakaria, l’ex segretario di Stato Tony Blinken, l’ex speaker della Camera Kevin McCarthy e Anne Neuberger, già responsabile della cybersecurity durante l’amministrazione Obama. L’obiettivo è raggiungere una consenso del 90% tra i giudici IA e gli esperti umani, un traguardo che Brown afferma di aver già realizzato.
La nascita di Forum AI, avvenuta 17 mesi fa a New York, è legata a un momento specifico. “Ero a Meta quando ChatGPT è stato rilasciato pubblicamente”, ha ricordato. “E ricordo di aver subito realizzato che questo sarebbe stato il canale attraverso il quale fluirebbero tutte le informazioni. E non è buono.” Le conseguenze per i suoi figli rendevano questa consapevolezza ancora più pesante. “I miei figli diventeranno davvero stupidi se non troviamo un modo per risolvere questo,” ha pensato.
Ciò che la frustrava di più era che l’accuratezza non sembrava essere una priorità. Secondo lei, le aziende che sviluppano modelli di base sono “estremamente focalizzate sulla programmazione e la matematica”, mentre le notizie e le informazioni sono più difficili da gestire. Un approccio più complesso, ha sottolineato, non implica che sia facoltativo.
Quando Forum AI ha cominciato a valutare i modelli in testa al mercato, i risultati non sono stati incoraggianti. Ha citato il caso di Gemini, che attingeva a siti del Partito Comunista Cinese per storie non correlate, e ha notato una tendenza politica di sinistra in quasi tutti i modelli. Non mancano anche fallimenti più sottili, come la mancanza di contesto e punti di vista, e argomenti distorti senza riconoscimento. “C’è ancora molta strada da fare,” ha detto. “Ma credo anche che ci siano alcune soluzioni molto semplici che migliorerebbero notevolmente i risultati.”
Brown ha trascorso anni a Facebook osservando le conseguenze quando una piattaforma si ottimizza per il motivo sbagliato. “Abbiamo fallito in molti degli aspetti che abbiamo provato”, ha condiviso con Fernholz. Il programma di fact-checking che aveva creato non esiste più. La lezione, anche se i social media lo ignorano, è che ottimizzare per l’engagement ha avuto effetti negativi sulla società, lasciando molti meno informati.
La sua speranza è che l’IA possa interrompere questo ciclo. “Adesso potrebbe andare in entrambe le direzioni,” ha affermato. Le aziende potrebbero offrire agli utenti ciò che vogliono, oppure potrebbero “fornire ciò che è reale, onesto e veritiero.” Anche se ammette che l’idea di un’IA ottimizzata per la verità possa sembrare ingenua, crede che le imprese possano diventare alleati inaspettati. Le aziende che utilizzano l’IA per decisioni di credito, prestiti, assicurazioni e assunzioni sono interessate alla responsabilità e “vogliono che si ottimizzi per fare la cosa giusta”.
Questo bisogno da parte delle imprese è anche ciò in cui Forum AI sta investendo il suo… Tech