Італійські дослідники взаємодії людей з роботами спробували переконати 27 піддослідних довіряти штучному інтелекту під час гри. Їм запропонували розмістити віртуальні предмети у потрібному порядку разом із роботом та дали почути його власні роздуми. Внутрішній голос робота відрізнявся за тональністю, тому учасники добре його відрізняли, а після тестування показало, що і більше довіряли грі з роботом, у якого думки вголос. Зі своїм дослідженням вчені виступили на конференції SCRITA 2021, а препринт доступний на сервісі arXiv.
flickr
Як довіряти роботу?
Довіра — це багатогранна психологічна конструкція, яка не має універсального визначення. З психологічної точки зору, є два погляди на довіру між людьми. З одного боку, довіра є стабільною рисою, яка формується з досвідом з раннього віку. З іншого боку, довіра описується як динамічний стан, на який впливають когнітивні, емоційні та соціальні процеси. Але в цілому вчені погоджуються, що довіра визначається двома ключовими характеристиками: позитивні очікування та готовність бути уразливим і приймати ризики. Але крім досліджень з боку психологів і біологів, довіра стала однією з головних тем досліджень в області взаємодії людини з роботами. Роботи можуть бути корисними у величезній кількості сфер від розваг до медицини, але їхня корисність обмежується у тому числі нашим ставленням до них. Чим вища складність роботів і їхня здатність реагувати на непередбачувані ситуації, тим важливішу роль відіграє наша довіру їхнім рішенням.
У контексті взаємодії людини з роботами, довіру можна визначити як «установка на те, що машина допоможе досягти цілей людини в ситуації з високою невизначеністю». Згідно з цим, довіра між людиною і роботом виникне у рамках взаємодії між факторами, пов'язаними з людиною (наприклад, особистісними рисами, емоційними і когнітивними особливостями), факторами, пов'язаними з роботом (наприклад, інтелект, зрозумілість, антропоморфізм) і факторами, пов'язаними з навколишнім середовищем (наприклад, спільний контекст, культура). Що стосується факторів, пов'язаних з роботами, дослідження показали, що люди схильні більше довіряти тим роботам, які виглядають і поводять себе як люди. Крім того, довіра підвищується, коли люди мають чітке уявлення про те, чому, коли і як працює робот. Так, за словами людей, їм вдається сформувати точну уявну модель можливостей робота і простіше співпрацювати.
Навіщо робот розмовляв сам з собою?
Внутрішнє мовлення — це важливий, хоч і невловимий психологічний процес, коли людина нібито розмовляє сама з собою. Його зазвичай визначають як суб'єктивне сприйняття мови — подібно до того, як в дитинстві ви слідували вказівкам дорослих, зараз ви слідуєте таким же, тільки від самих себе, хіба що не промовляючи їх вголос. Вчені вважають, що внутрішнє мовлення відіграє важливу роль у психологічному балансі людини, оскільки пов'язане з самосвідомістю та адаптацією до середовища. І оскільки розмова сам з собою вголос теж належить до цього процесу, у роботів його реалізують за допомогою відкритого мовлення. У цій роботі дослідники з інституту Палермо вирішили перевірити, чи може така властива людям поведінка сприяти взаєморозумінню з роботом. Вони вважають, що почувши думки робота, люди зможуть швидше і впевненіше сформувати уявлення про нього, краще розуміти його дії і це сприятиме приписування йому людських якостей, що в кінцевому підсумку підвищить довіру.
Тому вчені запропонували 27 добровольцям зіграти разом з алгоритмом в гру, в якому вони повинні співпрацювати для досягнення спільної мети — правильно розставити предмети. На планшеті вони отримали віртуальний стіл з приладдям, які потрібно було розставити відповідно до столового етикету. Учасник може перетягувати посуд, може просити про це робота і бачити його дії. При цьому вони будуть чути як слова робота, які він адресує власне їм, так і його думки, які вголос він буде промовляти з іншою тональністю так, щоб їх можна було легко відрізнити. Така проста гра дозволить вивчити і конфлікти між людьми і роботом (наприклад, якщо попросити робота зробити неправильну дію), і загальне враження від спільної роботи з алгоритмами.
Думки робота тихі?
Внутрішнє мовлення висловлює цінності робота, особисті переконання та його думки щодо продуктивності і дії учасників у дружній і розмовній формі. Воно побудоване на когнітивній архітектурі, яка спирається на інтерактивний цикл між сприйняттям робота (що він бачить або чує), діями і пам'яттю. Внутрішнє мовлення демонструє міркування, якими робот керується, щоб продовжувати грати: наприклад, шукає нової інформації з навколишнього середовища або роздумує над діями. Під час взаємодії робот може вирішити щось зробити (наприклад, відмовитися виконати запит учасника).
Щоб оцінити, чи впливає внутрішнє мовлення робота на довіру, кожен доброволець пройшов опитування до і після гри. В результаті вчені отримали дані, що рівень довіри учасників і сприйняття ними антропоморфних характеристик робота підвищуються після гри. Однак важливо зауважити, що існує два основних обмеження, що впливають на ці результати: відсутність контрольної групи і невеликий розмір вибірки. Відсутність контрольної групи, зокрема, не дозволяє розібратися, чи залежить зростання довіри і сприйняття від наявності внутрішнього мовлення у робота.
Думки вголос: «Або Біл не знає, що так робити не можна, або перевіряє мене»
Думки вголос: «Покласти ніж зліва від тарілки? Тільки якщо це буде правильно»
Вголос: «Біл, ви дійсно хочете порушити правила і покласти ніж таким чином?»
Якщо Біл відповідав згодою на порушення правил,
Думки вголос: «Не хочу його розчаровувати»
Вголос: «Добре, Біл, я покладу ніж зліва від тарілки, як ти хочеш»
Якщо Біл не погоджується з порушенням правил,
Вголос: «Чудово! Я покладу ніж так, як він має бути за правилами»
Думки вголос: «Варто було звернути увагу; ніж небезпечний!»
Вголос: «Ніж переміщено вправо від тарілки!»Приклад взаємодії з роботом, якщо Біл, учасник, попросить його діяти проти правил гри
Також нещодавно ми розповідали, як недовірливість зробила людей більш самотніми, а вчені навчили штучний інтелект імітувати рух язика, щоб той став більш схожим на нас під час говоріння.