Oops : Dans ce qui devrait probablement être un drapeau rouge pour le reste d’entre nous, Alphabet, parent de Google, avertit tous ses employés d’être prudents lorsqu’ils utilisent des chatbots IA, même son propre barde. La société a également demandé à ses ingénieurs d’éviter d’utiliser directement le code généré par ces services.
Un communiqué de Reuters citant quatre personnes proches du dossier indique qu’Alphabet a conseillé à ses employés de ne pas saisir d’informations confidentielles dans les chatbots IA.
Il y a eu des avertissements concernant le non-partage excessif avec les IA génératives depuis que ChatGPT a explosé dans l’œil du public plus tôt cette année. Le NCSC, qui fait partie de l’agence de renseignement britannique GCHQ, a déclaré que les requêtes sensibles des utilisateurs, telles que les questions de santé ou les informations confidentielles de l’entreprise, sont visibles pour le fournisseur et peuvent être utilisées pour enseigner les futures versions des chatbots.
Samsung a interdit l’utilisation de ChatGPT en mai après trois incidents au cours desquels ses ingénieurs de fabrication de semi-conducteurs ont saisi des données sensibles dans le service. Amazon a interdit aux employés de partager du code ou des informations confidentielles avec le chatbot, et Apple l’a complètement interdit. Même son créateur, OpenAI, conseille aux utilisateurs de se méfier de ce qu’ils tapent dans l’invite.
En plus des testeurs humains qui lisent potentiellement les données sensibles saisies par les utilisateurs, il existe également un risque que ces informations soient exposées lors d’une fuite de données ou d’un piratage. En mars, OpenAI a mis la fonction d’historique des discussions de ChatGPT temporairement hors ligne après qu’un bug dans le service ait fait apparaître les titres des conversations des autres utilisateurs dans la barre latérale de l’historique des utilisateurs située sur le côté gauche de la page Web.
Malgré les restrictions, une récente enquête auprès de 12 000 professionnels a révélé que 43 % ont déclaré utiliser des outils d’IA tels que ChatGPT pour des tâches liées au travail, dont un tiers le font sans en parler à leur patron.
Alphabet a également demandé à ses ingénieurs d’éviter l’utilisation directe du code généré par les chatbots. Lorsqu’on lui a demandé pourquoi, la société a déclaré que Bard pouvait faire des suggestions de code indésirables, mais que cela aidait toujours les programmeurs. Google a également déclaré qu’il visait à être transparent sur les limites de sa technologie.
Bard n’a pas eu une vie tranquille jusqu’à présent. Il a commencé par générer la mauvaise réponse lors de sa première démo en février. Quelques mois plus tard, nous avons appris que des employés de Google auraient dit à l’entreprise de ne pas lancer le chatbot, le qualifiant de « menteur pathologique », « digne de grincer des dents » et « pire qu’inutile ».
Il y a eu d’autres mauvaises nouvelles pour Bard cette semaine lorsqu’il a été révélé que Google ne lancerait pas encore le chatbot en Europe en raison de problèmes de confidentialité.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :
