Долгое время машины могли действовать только по прописанным алгоритмам, но исследователи уже развивают в роботах умение учиться. Появление тех, кто может делать самостоятельный выбор, угрожает безопасности человека. Особенно, если боты и помощники будут уметь то, что людям не под силу.
В России проблема взаимоотношений роботов и людей пока не так актуальна, но американские исследователи уже посвятили этой теме множество исследований. Например, учёные из Калифорнийского политехнического университета, Патрик Лин и Кейт Эбни, и профессор Университета Южной Калифорнии, Джордж Бекей, указывают на три блока проблемных вопросов:
Безопасность и ошибки. В 2007 году в ЮАР из-за ошибки в настройках зенитной установки погибло 9 солдат и 14 было ранено. Полуавтономное орудие противовоздушной обороны заклинило и открыло огонь по стоящим рядом солдатам. Сейчас не совсем ясно, как регулировать подобные сбои в работе машин или хакерские атаки на систему управления.
Робот должен также анализировать различия несколько предметов или контексты, в которых вещь используют. Например, отличать рожок мороженого от дула пистолета или считывать подтекст, который человек подразумевает в речи.
Законодательство и этика. Юристам и философам только предстоит разработать правила, которые будут регулировать, кто отвечает за ошибки автономных машин. Прежде чем эти нормы вступят в силе, нужно будет протестировать, применимы ли они ко всем устройствам. Если машины действуют самостоятельно, то отдельный вопрос, стоит ли давать роботам права и этично ли человеку создавать эти кодексы. Ник Бостром, профессор Оксфордского университета, считает, что создание «умных» машин может стать последним изобретением человека: в дальнейшем роботы будут диктовать условия нам, а не мы им.
Социальное влияние. Роботы вытесняют людей во многих отраслях, так как лучше справляются с техническими операциями. С исчезновением профессий человек уже сталкивался во время индустриальной революции, но сейчас специалисты обеспокоены, что с появлением роботов люди потеряют навыки. Например, станет меньше врачей-практиков.
В области робототехники формулирование принципов новой этики только начинается. С развитием технологий искусственный интеллект будет регулироваться всё большим числом правил. Понимание того, какие вопросы возникают на стыке философии, права и инженерии, поможет привыкнуть к мысли, что в скором времени техника станет не помощником, а партнёром.