Stuart Russell sur la façon de rendre l’IA «compatible avec l’homme»

Au cours d’une carrière s’étalant sur plusieurs décennies, le chercheur en intelligence artificielle et professeur Stuart Russell a apporté une connaissance approfondie du sujet, y compris des manuels de base. Il nous a rejoint sur scène à TC Sessions: Robotics + AI pour discuter de la menace qu’il perçoit de l’IA, et de son livre, qui propose une nouvelle solution.

La thèse de Russell, qu’il développe dans «Compatible humain: l’intelligence artificielle et le problème du contrôle », est que le domaine de l’IA a été développé sur la fausse prémisse que nous pouvons définir avec succès les objectifs vers lesquels ces systèmes fonctionnent, et le résultat est que plus ils sont puissants, pire ils sont capables. Personne ne pense vraiment qu’une IA fabriquant des trombones consommera la Terre pour maximiser la production, mais un algorithme de prévention du crime pourrait très facilement prendre des données et des objectifs mal construits et les transformer en recommandations qui causent de réels dommages.

La solution, suggère Russell, est de créer des systèmes qui ne sont pas si sûrs d’eux-mêmes – essentiellement, savoir ce qu’ils ne savent pas ou ne peuvent pas savoir et se tourner vers les humains pour le découvrir.

L’interview a été légèrement modifiée. Mes remarques, bien que peu pertinentes, sont conservées pour le contexte.

TechCrunch: Eh bien, merci de nous rejoindre ici aujourd’hui. Vous avez écrit un livre. Félicitations à ce sujet. En fait, vous êtes en fait, vous êtes chercheur et auteur en IA, enseignant depuis longtemps. Vous l’avez vu, le domaine de l’IA est en quelque sorte passé d’un domaine de niche dans lequel les universitaires travaillaient à une priorité mondiale dans l’industrie privée. Mais j’ai été un peu surpris par la thèse de votre livre; pensez-vous vraiment que l’approche actuelle de l’IA est en quelque sorte fondamentalement erronée?

Stuart Russell: Alors laissez-moi vous ramener un peu, même avant de commencer à faire de l’IA. Donc, Alan Turing, qui, comme vous le savez tous, est le père de l’informatique – c’est pourquoi nous sommes ici – il a écrit un article très célèbre en 1950 intitulé « Computing Machinery and Mind », c’est de là que vient le test de Turing. Il a présenté de nombreux sous-domaines différents de l’IA, il a proposé que nous devions utiliser l’apprentissage automatique pour créer des programmes suffisamment intelligents.

Traduit de l’anglais de https://techcrunch.com/2020/03/20/stuart-russell-on-how-to-make-ai-human-compatible/

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.