В большинстве случаев честность – лучший подход. Социальные нормы помогают людям самим определять, когда следует говорить правду, а когда нет, чтобы пощадить чьи-то чувства или не навредить. Но насколько применимы эти нормы к роботам, которые все чаще взаимодействуют с людьми? Чтобы понять, готовы ли люди смириться с тем, что роботы лгут, ученые провели опрос. Почти 500 его участникам было предложено оценить и обосновать возможные виды обмана со стороны роботов.
Ученые выбрали три сценария, которые отражали ситуации, в которых роботы уже находят применение (в медицине, уборке и розничной торговле), и три различных способа обмана: внешнего, относящегося к миру за пределами робота, скрытого, когда конструкция робота скрывает его возможности, и кажущегося состояния, когда его возможности могут представляться завышенными.
Источник: создано при помощи нейросети Kandinsky/fusionbrain.ai |
В сценарии внешнего обмана робот, выступающий в качестве сиделки у женщины, страдающей болезнью Альцгеймера, утверждал, что ее покойный муж скоро вернется домой. В сценарии скрытого обмана женщина заходила в дом, не подозревая, что робот-домработница помимо уборки еще и осуществляет видеосъемку. И наконец, в сценарии кажущегося состояния робот в магазине жаловался на боль при перемещении мебели, вынуждая человека искать ему замену для выполнения этой работы.
Участникам опроса было предложено ответить, одобряют ли они поведение робота, насколько оно обманчиво, можно ли его оправдать и несет ли ответственность за обман кто-то еще. Большую часть внешнего обмана, когда робот лгал пациенту, респонденты одобрили. Поведение робота оправдывали тем, что он защищал человека от ненужной боли. Скрытый обман робота-уборщика с камерой большинство опрошенных посчитали недопустимым. В отношении робота, который притворялся, что чувствует боль, реакция также была негативной. Такое его поведение сочли манипуляцией. Ответственность за обман в двух последних сценариях респонденты возложили на разработчиков и владельцев роботов.
Дальнейшие эксперименты с взаимодействием человека и роботов, вероятно, позволят лучше понять, как на самом деле люди относятся к такому поведению роботов-обманщиков.