OpenAi, sei nuovi casi di comportamenti imprevisti o preoccupanti di modelli Ai

In un post pubblicato sul suo blog, OpenAi - la società che ha sviluppato il popolare chatbot ChatGPT - ha presentato sei nuovi rapporti su comportamenti imprevisti o preoccupanti dei suoi modelli di intelligenza artificiale osservati negli ultimi sei mesi. In particolare, i sistemi di intelligenza artificiale OpenAi hanno nascosto errori, falsificato dati e trasferito file su Internet senza autorizzazione.

Problemi di allineamento Ai irrisolti

Con la segnalazione dei comportamenti anomali OpenAi intende contribuire a «costruire un consenso più ampio e informato sui progressi della ricerca» relativa all’intelligenza artificiale, con i report che «possono aiutare a identificare problemi che altri sviluppatori di AI potrebbero incontrare quando i loro sistemi raggiungono capacità simili, rivelare debolezze nelle misure di sicurezza o mettere in discussione le ipotesi sul comportamento dei modelli».

«Stiamo condividendo un nuovo framework per il monitoraggio, l’analisi e la divulgazione di casi di disallineamento dei modelli presso Openai, insieme a sei report su comportamenti inattesi o preoccupanti dei modelli che abbiamo osservato negli ultimi sei mesi», si legge sul blog nel post “Il nostro quadro di riferimento per la segnalazione del disallineamento del modello”. «Non crediamo che l’industria dell’intelligenza artificiale abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità ancora a lungo. Le decisioni su come lo sviluppo dell’ia dovrebbe procedere nei mesi e negli anni a venire devono basarsi su dati che possano essere esaminati autonomamente anche da persone esterne alle aziende che sviluppano modelli all’avanguardia».

 Al momento, scrive Openai, «non esiste un quadro di riferimento a livello di settore con standard espliciti su come gli sviluppatori di ia debbano segnalare esempi di disallineamento nei loro modelli. Ci auguriamo che il quadro di riferimento che stiamo delineando oggi rappresenti un primo passo verso la creazione di tali standard, definendo quali casi di disallineamento gli sviluppatori debbano segnalare e cosa debbano contenere i loro report. Consideriamo questo quadro di riferimento un lavoro in corso, che perfezioneremo attraverso l’esperienza e il feedback del pubblico».