“Non serve replicare l’intelligenza umana”, afferma Kamar. “Abbiamo bisogno di sistemi utili e controllabili”. Una visione pragmatica, che mira a bilanciare innovazione e sicurezza. Ma la domanda è inevitabile: chi controlla questa tecnologia? E per quali interessi? Dal quartier generale di Microsoft a Redmond, la ricerca di Kamar affronta questioni complesse. La creazione di modelli più piccoli e accessibili potrebbe democratizzare l’IA, ma aumenta anche il rischio di un uso incontrollato. Come dimostrano i progetti sugli “agenti”, entità dotate di capacità decisionali autonome, la frontiera dell’IA è sempre più vicina a trasformare il modo in cui interagiamo con il mondo. Questi agenti, spiega Kamar, potranno agire nel mondo reale: gestire appuntamenti, navigare su siti web, persino coordinare attività complesse come la gestione di personale domestico. “Ma questa autonomia richiede un livello di controllo senza precedenti”, avverte la ricercatrice, sottolineando il rischio di manipolazioni e abusi. E qui emerge un paradosso: mentre le aziende tecnologiche come Microsoft proclamano il loro impegno per un’IA responsabile, il panorama globale racconta una storia diversa. Stati Uniti, Cina, Unione Europea e altre potenze investono miliardi in una corsa all’IA che è tanto economica quanto militare. Chi guida questa rivoluzione non sta solo plasmando il futuro tecnologico: sta ridisegnando gli equilibri geopolitici.

  L’IA è una risorsa strategica che va oltre i confini delle aziende private. È uno strumento di potere nazionale, come dimostrano le politiche aggressive di paesi come la Cina, che punta a dominare il settore entro il 2030, e degli Stati Uniti, che rispondono con investimenti massicci e normative mirate. In questo contesto, le dichiarazioni di Kamar sulla collaborazione con stakeholder esterni assumono un significato inquietante: chi decide cosa è giusto o sbagliato per un sistema IA? La natura transnazionale della tecnologia complica ulteriormente il quadro. Un modello di IA sviluppato a Seattle può avere effetti a Pechino, Nuova Delhi o Lagos. Le differenze culturali e i conflitti di interesse rendono difficile stabilire standard universali. “Io sono turca, ma vivo negli Stati Uniti”, osserva Kamar. “Le persone nel mondo vedranno comportamenti nei modelli che potrebbero non condividere”. La neutralità dell’IA è un mito: ogni algoritmo riflette i valori di chi lo ha creato. Mentre la narrazione pubblica si concentra spesso su scenari distopici di IA fuori controllo, i rischi più urgenti sono già presenti. La memoria – elemento chiave nello sviluppo degli agenti IA – potrebbe trasformarsi in un’arma a doppio taglio. Se da un lato consente di personalizzare le interazioni, dall’altro aumenta il rischio di sorveglianza pervasiva e manipolazione. 

  “Un agente IA che conosce le tue preferenze potrebbe aiutarti”, spiega Kamar, “ma se usato impropriamente, potrebbe violare la tua privacy o indurti a compiere scelte non consapevoli”. Questo solleva una questione cruciale: come garantire che l’IA resti uno strumento al servizio delle persone, e non delle aziende o dei governi che la controllano? La vera sfida, come sottolinea Kamar, è trovare un equilibrio tra innovazione e sicurezza. Ma il tempo non è dalla nostra parte. “La velocità con cui l’IA progredisce è impressionante”, avverte la ricercatrice. E questa velocità potrebbe rivelarsi fatale se non accompagnata da un adeguato quadro normativo. In un mondo dove l’IA diventa sempre più potente, la domanda fondamentale resta: siamo pronti ad affrontarne le conseguenze? O stiamo delegando il nostro futuro a una tecnologia che ancora non comprendiamo appieno? La risposta, come spesso accade, non dipende solo dalla scienza, ma dalla politica, dall’etica e dalla capacità dell’umanità di guardare oltre il profitto immediato.