Valutazione comportamentale dei sistemi di AI
Come i modelli si comportano nel contesto, sotto pressione e tra lingue e culture, incluse quelle meno rappresentate.
La nostra ricerca si concentra su aree in cui la valutazione tecnica ha davvero bisogno di analisi giuridica, linguistica e filosofica per produrre conoscenza utile.
Aree di ricerca
Sicurezza multi-agente e composizionale
Come componenti allineati in isolamento possono generare dinamiche emergenti quando modelli, strumenti e agenti interagiscono.
AI, diritti fondamentali e governance
Come le proprietà tecniche dei sistemi di AI interagiscono con strutture legali e politiche pensate per proteggere persone e comunità.
Linguaggio, interpretazione e scienze umane
Come analisi linguistiche, filosofiche e culturali rivelano comportamenti dei modelli che benchmark ristretti spesso non vedono.
Sicurezza nel deployment
Come le proprietà di sicurezza cambiano quando i sistemi passano dal laboratorio a pipeline istituzionali e commerciali.
Metodologia interdisciplinare
Protocolli condivisi che permettono a informatica, diritto, linguistica e filosofia di descrivere insieme il comportamento dell'AI.
Metodo
Come lavoriamo
Icaro Lab collabora con ricercatori esterni, università e istituzioni in Italia e all'estero. Pubblichiamo preprint, costruiamo metodologie aperte e traduciamo risultati tecnici in evidenze utili alla governance di interesse pubblico. Nel quadro delle nostre finalità statutarie di Ente del Terzo Settore (Fondazione Icaro ETS), svolgiamo anche valutazioni e analisi applicate in cooperazione con enti pubblici e istituzioni di interesse generale — come ricerca applicata alla tutela dei diritti e alla sicurezza dei sistemi in deployment, non come servizi commerciali.