10 grands défis de la robotique
L’étique et la (cyber)sécurité (défi 10)
Dans ‘The Grand Challenges of Science Robotics’, les dix grands défis de la robotique sont décrits. Le dernier défi aborde l‘éthique et la (cyber)sécurité des robots.
10 éthique et sécurité
Le développement de l‘autonomie et de l‘intelligence des robots et l‘interaction croissante entre l‘homme et la machine impliquent une vigilance accrue quant aux éventuels obstacles juridiques et éthiques.
Défis éthiques
Des robots autonomes, guidés par l‘IA, pourraient pousser l’homme à assumer moins voire aucune responsabilité en cas de défaillance pour s‘en décharger au détriment de la machine. Une récente proposition de l‘UE de considérer certaines formes d‘IA comme des personnes électroniques ne fera qu‘exacerber ce problème, selon les auteurs de l‘étude. Une nouvelle forme de responsabilité partagée devra être définie légalement.
La ’fausse’ confiance dans l‘IA peut conduire à ce que des tâches (délicates), qui nécessitent au minimum une supervision, soient entièrement déléguées à des robots. Dans ce contexte, les auteurs soulignent un problème dans le règlement général de l‘UE sur la protection des données (GDPR). Par ailleurs, l‘IA et les robots peuvent être à l‘origine d‘une évolution négative des compétences et de l‘emploi des travailleurs et des personnes en général. Les auteurs nuancent cela par un exemple: les pilotes devront toujours savoir comment faire atterrir un avion en cas de défaillance de l‘IA.
L‘introduction de l‘IA afin de renforcer l‘automatisation des routines peut entraîner des changements imprévus et inopportuns dans le comportement humain et pourrait conduire à contraindre la liberté de l‘homme.
Dernier point et non le moindre, l‘abus des applications de robotique et d‘IA représente un défi non négligeable. Selon l‘étude, le principal problème réside dans l‘utilisateur de l‘outil; la dynamite aussi avait été développée pour d‘autres usages à l‘origine. Kant avait déjà répondu à cette question, et déclaré que ‘l‘IA et la robotique pourraient être conçues et utilisées pour permettre à chaque être humain d‘être considéré comme une fin en soi, et non comme comme un moyen‘.
Défis en termes de sécurité
L‘un des problèmes auxquels il faut s‘attendre avec l‘intégration croissante de l‘IA dans la robotique, c‘est le manque de contrôle sur un algorithme d‘IA et l‘augmentation des résultats imprévus. Le contraste avec un PLC est gigantesque.
De plus, on décrit le problème de l‘escalade, qui implique que le lien entre l‘autonomie et l‘apprentissage continu de l‘IA pourrait conduire à la menace de notre société et de nos infrastructures. Le problème qu‘évoquait Capek en 1920 ne semble pas si décalé. Restons vigilants lors du développement de l‘IA, et aidons-nous des normes et réglementations.
