Très impliqué dans la recherche sur l’intelligence artificielle, Google a pourtant décidé de prendre au sérieux la menace que cette technologie peut représenter. Le géant américain a en effet indiqué travailler à la conception d’un bouton d’urgence pour stopper une machine devenue incontrôlable.

Une option qui pourrait ravir Stephen Hawking et Elon Musk, le premier estimant que l’intelligence artificielle pourrait être la dernière invention de l’espèce humaine, le second la jugeant plus néfaste que les armes nucléaires, rappelle Begeek.

Pas si simple à mettre en place

Toutefois, cette nouvelle fonctionnalité n’est pas si simple à mettre en place. « Si la machine à un but à atteindre et peut prédire qu’elle va être arrêtée, elle va essayer de résister afin de réussir ce pour quoi elle a été conçue », résume Laurent Loiseau, de l’université d’Oxford et collaborateur de DeepMind, l’entreprise spécialisée dans l’intelligence artificielle rachetée par Google.

Mais le spécialiste, cité par Begeek, se veut rassurant : « Notre système permet à un humain de prendre temporairement le contrôle de la machine tout en lui faisant croire qu’elle choisit elle-même d’interrompre son activité. »

Pour rappel, en mars, Microsoft avait dû débrancher son robot rendu fou par des trolls, pour interrompre ses tweets racistes et pro-nazi.