Le pionnier du deep learning met en garde contre les dangers des IA
récentes et lance LawZero, une organisation défendant une IA plus sûre
pour l’humanité
L’un des “parrains” de l’intelligence artificielle s’en prend à la course effrénée pour développer cette technologie de pointe à coups de milliards de dollars, affirmant que les derniers modèles présentent des caractéristiques dangereuses, telles que le fait de mentir aux utilisateurs.
La vitesse d’innovation au détriment de la sécurité
Yoshua Bengio est un universitaire canadien dont les travaux ont inspiré les techniques utilisées par les plus grands groupes spécialisés dans l’IA, tels qu’OpenAI et Google. Selon lui, “il existe malheureusement une course très compétitive entre les principaux laboratoires, qui les pousse à se concentrer sur la capacité à rendre l’IA de plus en plus intelligente, mais sans nécessairement mettre suffisamment l’accent et investir suffisamment dans la recherche sur la sécurité”.
Le lauréat du prix Turing a lancé cette mise en garde dans une interview accordée au Financial Times lors du lancement d’une nouvelle organisation à but non lucratif appelée LawZero. Il a déclaré que ce groupe se concentrerait sur la mise en place de systèmes plus sûrs, s’engageant à “isoler nos recherches de ces pressions commerciales”…
Pascal Lenoir
