OpenAI a récemment annoncé qu’elle renonçait à la sortie de son prochain modèle, GPT-6.1 Astra, après avoir estimé qu’il ne répondait pas à ses exigences en matière de sécurité et d’alignement. Plus de détails ici.
Voici les commentaires de Neena Sharma, Head of Product and Customer Marketing chez Filigran, et de Damian Skeeles, Senior Solutions Architect chez Filigran :
Neena Sharma :
« C’est absolument la bonne décision pour OpenAI, et le monde ne perdra sûrement pas grand-chose avec cette pause. La sécurité, l’alignement et la capacité de supervision doivent légitimement être la priorité absolue lorsque le niveau de risque est aussi élevé, de l’aveu même d’OpenAI. Les entreprises d’IA doivent laisser aux organisations le temps de souffler afin qu’elles puissent évaluer leur niveau de sécurité et leur exposition actuels. C’est d’autant plus pertinent pour les infrastructures critiques et les administrations, où les systèmes hérités et le laxisme des pratiques de sécurité les exposent à un risque accru. »
Damian Skeeles :
« La déclaration d’OpenAI laisse penser à des problèmes d’alignement, susceptibles de produire des résultats indésirables malgré des prompts stricts et des garde-fous. À mesure que les entreprises adopteront des agents IA pour des charges de travail sérieuses, sans supervision, elles devront considérer l’alignement comme un risque d’entreprise, au même titre que le stagiaire recruté qui jette de temps en temps une chaise par la fenêtre du 15e étage. »