L’IA de Google serait dans la tourmente en raison de ses récents erreurs
L’arrivée de Google Gemini a connu un succès notable sur le marché de l’intelligence artificielle. Il est rapide, efficace et sécurisé, du moins en ce qui concerne la conversion texte-texte. Le problème est survenu avec la génération d’images qui a été accusée de partialité et a offensé de multiples sensibilités en représentant de manière inexacte la race et le genre des instructions historiques, avec de nombreux problèmes d’approche. Cela a conduit Sundar Pichai, PDG de Google, à considérer ces problèmes comme inacceptables, estimant que Google doit offrir avant tout fiabilité à ses utilisateurs.
Maintenant, selon un article de Forbes, nous savons combien d’argent Google aurait perdu suite à son échec dans la génération d’images.
L’échec de Google en bourse
L’IA est devenue un puits sans fond pour l’argent des investisseurs. On a dit à un moment donné que ChatGPT brûlait deux millions de dollars par jour, une somme qui est étroitement liée à la consommation d’énergie extrêmement élevée et au coût de son développement.
> « we take representation and bias seriously » says Google AI lead.
Pendant ce temps, leur programme Gemini est anti-blanc au point de rendre les *nazis* NOIRS https://t.co/V1S9NjeQJB pic.twitter.com/8lPPwfcSO8
— News Lobster (@lobsterlooker) 21 février 2024
Actuellement, de tels projets sont maintenus à flot grâce aux puissants investissements versés par des fonds et des particuliers pour leur développement (en échange de bénéfices importants à l’avenir).
Quand l’IA de Google a commencé à représenter des soldats nazis au front avec des origines africaines ou asiatiques, la communauté a éclaté de toutes parts et a centré ses critiques sur le processus de création d’images de Google, qu’elle juge tendancieux et rempli d’erreurs. À ce moment-là, les investisseurs ont cessé de faire confiance à l’entreprise, ce qui s’est traduit par une perte de 90 milliards de dollars. Un chiffre franchement surprenant, car ses actions ont chuté de 4,5% vendredi dernier, une baisse considérable, la deuxième plus importante de l’année.
La représentation d’images historiques est toujours partielle et biaisée
Mis à part le fait qu’il y ait eu des soldats asiatiques ou noirs combattant pour l’Allemagne nazie (ce qui était le cas), il est vrai que les méthodes utilisées par les intelligences artificielles pour générer des images de représentation de l’Histoire sont souvent très éloignées de la réalité. Leurs recréations ont tendance à être plus fantaisistes que réalistes, en offrant toujours une série de partialités et de biais évidents. Cela se produit avec toutes les intelligences artificielles, y compris MidJourney ou DALL-E, et ne peut être amélioré qu’avec un développement plus poussé de ces applications.
Non seulement au niveau du genre et de la façon de représenter les hommes et les femmes de certaines périodes, mais aussi en ajoutant des détails d’images fantastiques et totalement irréels lorsque l’on demande de créer quelque chose qui soit historiquement précis.
Cela est dû à la manière dont les IA sont formées, c’est-à-dire avec des tonnes d’informations. Cela a du sens pour la génération d’images d’imagination ou les chatbots texte-texte, mais cela ne tient pas dans le cas des images historiques.
En résumé:
- Google s’est retrouvé dans la tourmente après que son IA de génération d’images ait incorrectement représenté le genre et les origines des soldats nazis et autres personnages historiques.
- Cela a conduit à la perte de confiance des investisseurs dans l’entreprise.
- Cela s’est traduit par une perte de 90 milliards de dollars.