Des experts d'ANYbotics, de Boston Dynamics et de Clearpath Robotics répondent aux questions sur l'utilisation irresponsable et contraire à l'éthique de leurs robots.
Illustration: iStockphoto / IEEE Spectrum
La production commerciale de robots autonomes pouvant fonctionner en dehors d'un environnement structuré a explosé au cours des cinq dernières années. Mais cette transition relativement récente des technologies robotiques de la catégorie des projets de recherche vers un produit commercial s'accompagne de certaines difficultés, dont beaucoup sont liées au fait que de plus en plus de robots apparaissent dans la société.
Les robots hantent souvent l'esprit des gens, peut-être en raison de leur fonctionnalité apparente ou d'une représentation typique de la culture populaire. Parfois, cela conduit à des résultats positifs, tels que des façons innovantes de les utiliser. Mais il y a aussi des situations où cela conduit à une utilisation contraire à l'éthique ou irresponsable. Les vendeurs de robots peuvent-ils faire quelque chose dans de tels cas? Et même s'ils le peuvent, devraient-ils?
La robotique pense que les robots sont avant tout des outils. Nous les concevons, nous les programmons, et même les robots autonomes ne font que suivre les instructions que nous leur avons codées. Cependant, c'est la viabilité apparente des robots, qui suscite un tel intérêt, signifie que les personnes qui n'ont aucune expérience d'interaction avec de vrais robots peuvent ne pas comprendre que le robot lui-même n'est ni bon ni mauvais, il n'est que le reflet de son designers et utilisateurs. ...
Cela peut mettre les entreprises de robotique dans un dilemme. La personne qui leur a acheté le robot peut, par hypothèse, l'utiliser à sa guise. Bien sûr, cela s'applique à n'importe quel outil, mais la spécificité de la situation avec les robots réside dans leur autonomie. On peut dire que l'autonomie implique une relation entre un robot et son fabricant, ou, dans ce cas, l'entreprise qui le développe et le vend. Cette association n'est peut-être pas entièrement justifiée, mais elle existe, malgré le fait qu'en fin de compte, c'est l'acheteur du robot qui a le contrôle total sur toutes ses actions.
, Spot , .
, Boston Dynamics
Bien sûr, les entreprises de robotique le comprennent, car beaucoup d'entre elles surveillent attentivement à qui elles vendent leurs produits et sont très claires sur les utilisations souhaitables de leurs robots. Mais jusqu'où cette responsabilité doit-elle aller lorsqu'un robot «sort du nid» de l'entreprise qui l'a créé? Et comment est-ce possible? Les entreprises de robotique doivent-elles être tenues pour responsables des actions de leurs robots dans le monde humain, ou faut-il reconnaître qu'après la vente d'un robot, la responsabilité en revient également au nouveau propriétaire? Et que peut-on faire s'il y a des cas d'utilisation irresponsable ou contraire à l'éthique de robots qui pourraient nuire aux fabricants de robotique?
Pour mieux comprendre ce problème, nous avons contacté les employés de trois sociétés de robotique, dont chacune a l'expérience de la vente de robots mobiles uniques à des consommateurs commerciaux. Nous leur avons posé cinq questions sur la responsabilité des entreprises de robotique vis-à-vis des robots qu'elles vendent, et c'est ce à quoi elles ont répondu.
Existe-t-il des restrictions sur la façon dont les humains peuvent utiliser vos robots? Si oui, lesquels et si non, pourquoi?
Peter Fankhauser , PDG d' ANYbotics :
Nous travaillons en étroite collaboration avec les clients pour nous assurer que notre produit offre la bonne solution à leur problème. Ainsi, nous comprenons immédiatement pourquoi le robot est acheté et ne coopérons pas avec les clients qui souhaitent utiliser notre robot ANYmal à d'autres fins. En particulier, nous n'autorisons catégoriquement aucune utilisation militaire ou armée de nos robots, et depuis la création d'ANYbotics, nous essayons d'améliorer les conditions de travail des personnes, de les rendre plus confortables, plus agréables et plus sûres.
Robert Plater , PDG, Boston Dynamics :
Oui, nous avons introduit des restrictions sur l'utilisation de nos robots, qui sont énoncées dans les termes du contrat de vente. Tous nos acheteurs, sans exception, doivent confirmer que Spot ne sera pas utilisé pour blesser des personnes ou des animaux, ou pour les intimider, être utilisé comme une arme ou être équipé pour tenir une arme. Comme tout autre produit, Spot doit être utilisé légalement.
Ryan Gariepi , directeur technique, Clearpath Robotics :
Nous avons des restrictions et des processus stricts de diligence raisonnable à la clientèle basés principalement sur la réglementation canadienne sur le contrôle des exportations. Ils dépendent du type d'équipement vendu ainsi que de l'endroit où il sera utilisé. En général, nous ne vendrons ni ne prendrons en charge un robot si nous savons qu'il posera un risque de sécurité incontrôlable ou si nous avons des raisons de croire que l'acheteur n'est pas qualifié pour utiliser le produit. Et, en règle générale, nous ne soutenons pas l'utilisation de nos produits pour le développement de systèmes d'armes entièrement autonomes.
Pourquoi un acheteur d'un robot devrait-il être limité dans son utilisation?
Peter Fankhauser, ANYbotics:
Nous ne voyons pas le robot comme un objet ordinaire, mais plutôt comme une force de travail artificielle. Pour nous, cela signifie que le transfert du robot et son utilisation sont étroitement liés, et le client et le fournisseur doivent se mettre d'accord sur les tâches que le robot effectuera. Cette approche trouve un écho chez nos clients, de plus en plus intéressés par la possibilité de payer les robots en tant que service ou à l'usage.
Robert Plater, Boston Dynamics:
Nous vendons le produit et ferons tout ce qui est en notre pouvoir pour empêcher les attaquants d'utiliser notre technologie pour nuire, mais nous ne pouvons pas contrôler tous les cas d'utilisation. Cependant, nous pensons que le meilleur impact sur notre entreprise viendra de l'utilisation de la technologie à des fins pacifiques - travailler avec les gens comme des aides fiables et les protéger du danger. Nous ne voulons pas que notre technologie soit utilisée pour nuire ou promouvoir la violence. Nous utilisons les mêmes restrictions que les autres fabricants ou entreprises technologiques qui prennent des mesures pour réduire ou éliminer l'utilisation violente ou illégale de leurs produits.
Ryan Gariepi, Clearpath Robotics:
En supposant que l'entité limitante est privée et que le robot et ses logiciels sont vendus plutôt que loués ou gérés, il n'y a alors aucune raison légale impérieuse de limiter l'utilisation. Cependant, le fabricant n'est pas non plus obligé de fournir une assistance pour ce robot ou client particulier à l'avenir. Cependant, étant donné que nous ne sommes encore qu'au bord des changements sociaux que les robots apporteront, il est dans l'intérêt du fabricant et de l'utilisateur de se communiquer honnêtement leurs objectifs. Maintenant, vous investissez non seulement dans l'achat initial et dans la relation avec le fabricant, mais vous investissez dans la promesse de vous aider mutuellement à réussir à l'avenir.
Si le robot est utilisé de manière imprudente du point de vue de la sécurité: intervenez! Si vous êtes confronté à une utilisation contraire à l'éthique, ne vous taisez pas!
Peter Funkhauser, ANYbotics
Que pouvez-vous faire de manière réaliste pour vous assurer que les robots achetés sont utilisés comme prévu?
Peter Fankhauser, ANYbotics:
Nous travaillons en étroite collaboration avec nos clients pour nous assurer que notre solution leur permet d'atteindre leurs objectifs. Par conséquent, nous avons abandonné les possibilités techniques de bloquer l'utilisation de produits à d'autres fins.
Robert Plater, Boston Dynamics:
Nous vérifions soigneusement nos clients et nous nous assurons que l'utilisation prévue correspond à la fonctionnalité du robot Spot et ne contredit pas les termes du contrat de vente. Nous refusons de vendre aux clients qui prévoient d'utiliser des robots pour des tâches qui ne leur conviennent pas tout à fait. Et en cas d'abus de nos technologies ou de violation des règles d'utilisation, selon les termes du contrat de vente, la garantie et la possibilité de recevoir des mises à jour, la maintenance, la réparation ou le remplacement du robot sont annulées. Nous pouvons également saisir des robots qui ont été loués et non achetés. Enfin, nous ne revendrons pas les robots aux clients qui enfreignent les termes du contrat de vente.
Ryan Gariepi, Clearpath Robotics:
Nous travaillons généralement avec les clients avant une vente pour nous assurer que leurs attentes correspondent à la réalité, en particulier sur des questions telles que la sécurité, les exigences de contrôle et la convivialité. Il vaut mieux ne pas faire d'accord du tout que de vendre un robot qui ramassera la poussière sur l'étagère ou, pire encore, causera des dommages, nous préférons donc réduire le risque d'une telle situation avant de recevoir la commande ou d'envoyer le robot à l'acheteur.
Comment évaluez-vous les cas d'utilisation limites, par exemple si quelqu'un veut utiliser votre robot dans un domaine artistique ou de recherche qui pourrait repousser les limites de ce que vous jugez personnellement responsable ou éthique?
Peter Fankhauser, ANYbotics:
L'essentiel est de mener un dialogue, d'essayer de se comprendre et de rechercher des alternatives qui conviendront à toutes les parties intéressées, et plus tôt ce dialogue commencera, mieux ce sera.
Robert Plater, Boston Dynamics:
Il y a une ligne claire entre l'étude des robots dans la science et l'art et l'utilisation de robots à des fins violentes ou illégales.
Ryan Gariepi, Clearpath Robotics:
Nous avons jusqu'à présent vendu des milliers de robots à des centaines de clients, et je ne me souviens pas de la dernière fois où nous n'avons pas eu à gérer les contrôles à l'exportation et à faire une évaluation globale des objectifs et des attentes des clients. Je suis sûr que cela changera à mesure que les prix des robots continueront de baisser et que leur flexibilité et leur facilité d'utilisation augmenteront.
, , .
, Clearpath Robotics
Que devrait faire la robotique si elle voit un robot utilisé de manière non éthique ou irresponsable?
Peter Fankhauser, ANYbotics:
Si le robot est utilisé de manière imprudente du point de vue de la sécurité, intervenez! Si vous êtes confronté à une utilisation contraire à l'éthique, ne vous taisez pas!
Robert Plater, Boston Dynamics:
Nous voulons que les robots soient bénéfiques à l'humanité, ce qui signifie, entre autres, ne pas nuire aux gens. Nous pensons que l'industrie de la robotique ne deviendra commercialement viable à long terme que si les humains considèrent les robots comme des outils utiles sans se soucier de savoir s'ils peuvent causer des dommages.
Ryan Gariepi, Clearpath Robotics:
S'il s'agit d'un cas isolé, ils doivent discuter du problème avec l'utilisateur, le fournisseur ou les fournisseurs, les médias et les agences réglementaires ou gouvernementales en cas de menace imminente pour la sécurité. Si cette situation risque de se répéter à plusieurs reprises et qu'elle n'est pas prise au sérieux, la robotique devrait en faire l'objet de discussions plus larges dans des lieux appropriés: lors de conférences, dans des groupes industriels, dans des organismes de normalisation, etc.
Conclusion
Alors que de plus en plus de robots aux capacités différentes apparaissent sur le marché, ces problèmes peuvent survenir de plus en plus souvent. Les trois entreprises avec lesquelles nous nous sommes entretenus ne représentent certainement pas tous les points de vue. Mais je suppose (j'espère?) Toute personne impliquée dans la fabrication de robots serait d'accord pour dire que les robots devraient être utilisés pour améliorer la vie des gens. Mais ce que «mieux» signifie dans le contexte de l'art, de la recherche et même de l'utilisation de robots dans l'armée n'est pas toujours facile à définir, et des désaccords surgiront inévitablement sur ce qui est éthique et responsable et ce qui ne l'est pas.