Thomas
Le format de débat sur l’IA construit par OpenAI aux États-Unis a suscité un intérêt à l’échelle mondiale. Microsoft, le principal investisseur de la société, a commencé à évaluer les effets du modèle GPT-4 sur les futures personnes de tous âges. Il a montré des performances de niveau humain sur une variété d’examens standard professionnels et académiques. Cela inclut la possibilité de réussir l’test du barreau simulé et de se classer parmi les 10 % les plus performants. GPT-4 est un modèle multimodal à grande échelle qui peut produire des mots de type humain.
Le GPT-4 comporte cependant plusieurs risques possibles qui pourraient nuire à la fois à la société et aux personnes. Un arrêt de six mois sur le développement de systèmes plus robustes que GPT-4 a été demandé dans une lettre ouverte par le fondateur de Tesla, Elon Musk. Musk n’est pas le seul à faire cette demande. Plusieurs experts en IA formulent également des demandes similaires. Ils pensent qu’à ce rythme, un protocole de sécurité externe et une évaluation par des experts sont nécessaires. Ils ont également souligné le risque de troubles économiques et politiques provoqués par les systèmes d’IA avancés. Ainsi, ils exhortent les développeurs à travailler avec les législateurs pour créer des organes politiques.
Musk, Wozniak et d’autres signent une lettre d’arrêt du GPT-4
Musk, le cofondateur d’Apple, Steve Wozniak, et le PDG de Stableility AI, Emad Mostaker, sont parmi les signataires de la lettre. La lettre provient d’une ONG, Future of Life Institute. Il y avait plus de 1 000 signataires. En partie, la lettre se lit
« Des systèmes d’IA solides ne devraient être développés que si nous sommes convaincus que les effets sont positifs et que les risques sont gérables »,
L’agence de police de l’UE, Europol, a également exprimé lundi ses inquiétudes éthiques et juridiques concernant les systèmes d’IA de pointe comme ChatGPT. Il avertit que ces systèmes pourraient être utilisés à des fins d’hameçonnage, de fraude et de cybercriminalité. Le ChatGPT d’OpenAI soutenu par Microsoft, qui a été publié l’année dernière, a inspiré des rivaux à obtenir des solutions similaires. De nombreuses marques utilisent désormais le système ou une technologie similaire dans leurs produits et applications. Cependant, OpenAI affirme qu’il fait tout son possible pour garantir la sécurité de GPT-4. La société affirme avoir passé six mois à travailler sur GPT-4 pour obtenir les meilleurs résultats en termes de stabilité, de résultats réels et de plage de sécurité.