Печатать

Право роботов: от фантастики к реалиям

Право роботов: от фантастики к реалиям
865 1 0
2025 год. Роботы развиты настолько, что умеют самостоятельно принимать решения. Один из таких механизмов - автономный трактор, принадлежащий фермеру, - получил задание вспахать определенную территорию. Выполненная задача обернулась бедой для заповедника на севере Томской области - там были уничтожены краснокнижные растения.

Эта придуманная история стала фабулой для первого суда, где шла речь о нарушениях со стороны робота. Первого в мире - во всяком случае, так прошедшее в минувшую пятницу заседание позиционируют в Томском госуниверситете. Именно его коллектив стал инициатором данного мероприятия: преподаватели, студенты, магистранты и аспиранты ТГУ работают над основами права роботов. Это один из разделов цифрового права. В целом, оно тоже новшество в законодательстве.

Робот я или право имею?

Суд, прошедший в ТГУ, был, разумеется, игровым процессом. Роли судей, защитника, экспертов, истца и ответчика исполняли добровольцы из числа студентов, преподавателей и горожан. Кому кем быть, они выбирали сами. Роль трактора при этом не предлагалась - изначально было решено, что его искусственный интеллект не достиг того уровня, чтобы самому отвечать за свои действия.

«Это как с детьми, - поясняет кандидат философских наук, доцент кафедры философии, методологии и науки ТГУ Дарья Ситникова (в суде она играла ответчика - владельца автономного трактора). - Пока субъектом права может быть только физическое или юридическое лицо, но не робот. Но ведь и люди уголовную ответственность несут не с детства. Ребенок - это еще не сформировавшаяся личность, он не может совершать поступки. Ведь что такое поступок - для него нужно, как минимум, наличие самосознания и принятия ответственности за собственное решение. Поступок совершает только тот, кто в силу своих физических и возрастных возможностей может предположить, что последует за его действиями. Поэтому за детей отвечают взрослые. Точно так же слово «поступок» не применимо к роботам. Даже самый совершенный сильный интеллект не способен на поступок, во всяком случае - пока. У роботов нет сознания».

Дарья Ситникова и еще одна участница импровизированного суда - студентка Екатерина Зырянова (в состоявшемся процессе - представитель компании-разработчика) - занимаются философией техники и в том числе - этикой беспилотников. Это из той же области, что право роботов. Только философия техники ведет свое начало еще со второй половины XIX века, а о создании права роботов начали задумываться совсем недавно.

«Знаменитая «проблема вагонетки», которая возникла в 1960-е годы, когда еще не было никаких автономных роботов, сейчас становится очень актуальной. Катится неуправляемая вагонетка - или, как теперь уже возможно, автономный автомобиль. И складывается такая ситуация, что при одном действии, условно говоря, будет сбита бабушка, а при другом действии - беременная женщина. И нужно выбрать. Что этот робот сделает? А все эти правила закладывают люди, и робот действует согласно этим алгоритмам. Отклониться от них он может только, если случится какая-то поломка или вмешательство извне. Поэтому на данном этапе мы не можем предъявлять претензии роботам», - говорит Дарья Ситникова

Учитывая это и обстоятельства легенды процесса, сообща трое судей вынесли вердикт: робот-трактор не виновен, все дело в человеческом факторе. При этом наказания избежали и хозяйка автономного трактора, и компания, которая его произвела. По сюжету, проблема крылась в кадастровых границах. Такая путаница сейчас наблюдается по всей стране, так что подобное решение никого не удивило. Робот неумышленно вышел за черту участка, который принадлежит фермеру, и оказался на площадях заповедника. По предложению игрового суда истец и ответчик заключили мировое соглашение, и фермер обязался восстановить поврежденные земли.

Игра, но не игрушки

«Мы все уже ежедневно общаемся с роботами, - разговор об этом с проректором ТГУ по инновационной деятельности Константином Беляковым у нас зашел еще при встрече в декабре 2017-го. Цифровое право и право роботов - конек Белякова, так что невозможно было эту тему не затронуть. - Вот у вас сейчас в руках смартфон. Это устройство с зачатками интеллекта. Он подсматривает, подслушивает за вами и делает вашу жизнь несколько иной».

Тут же, будто услышав, что о нем говорят, оживает мой смартфон - пришло сообщение в WhatsApp, а через пару минут напоминает о себе смартфон проректора.

«Наши цифровые двойники не спят», - шутит он.

Цифровой двойник - это совокупный электронный образ человека в интернете, объясняет Беляков. Аккаунты в соцсетях, запросы в поисковиках, электронная почта и так далее. Со временем мы начинаем наделять своего двойника определенными функциями. Сегодня они с точки зрения самостоятельности незначительны. Например, мы доверяем ему в заданные даты платить за коммунальные услуги, за связь и так далее.

«Но, доверяя какие-то функции своему цифровому двойнику, мы даем ему все более высокую степень автономности. Пока что они пассивны, они только реагируют на наши команды. Со временем таких функций станет больше: позвонить маме или сыну, пообщаться с шефом. В этом уже сейчас помогают боты. Если они хорошо «сделаны», вы даже не отличите в разговоре - человек с вами общается или бот. Как только автономность наших двойников превысит определенный порог, они начнут принимать собственные решения. И вот тут возникает вопрос - как они поведут себя, насколько будут управляемыми. Этим вопросом надо заниматься уже сейчас», - подчеркивает представитель руководства ТГУ.
«В наших планах - провести целый ряд судебных разбирательств, где одной из сторон, пусть и неофициально, будет выступать робот, - говорит по итогам прошедшего судебного заседания над трактором студент Юридического института ТГУ Александр Коркин. - Возможно, к 2025 году уже будет прописан Кодекс робототехники, и мы сможем привлекать роботов к ответственности, в том числе и к уголовной. Это интересно и важно не только юристам, но и всем, кто занимается программированием, робототехникой». 

Александр - один из трех судей, решавших, кто виновен в нанесении вреда заповеднику. В подтверждении слов проректора по инноватике он отмечает: каждый их нас не только каждый день взаимодействует с роботами, но и хотя бы раз стал «жертвой» нарушений с их стороны.  

«Часто у нас с кредитных карт уходят пусть и не большие суммы, но без нашей воли. С мобильной связью то же самое - подключаются услуги, о которых мы и не подозреваем, а потом удивляемся, почему так много денег списывается. Я думаю, немалая часть таких инцидентов происходит не по прямой вине мобильного оператора, а именно из-за технических сбоев. Банковские терминалы, платежные системы - это тоже роботы».
«Такие бытовые вещи мы уже воспринимаем как что-то привычное, - поддерживает эту мысль Екатерина Зырянова. - Например, стиральная машинка использует не тот режим, робот-пылесос не пылесосит там, где нужно, банкомат «съел» карту или не выдал деньги. Но возникали уже в мире и гораздо более серьезные случаи, в том числе - с гибелью людей».

Незадолго до томского суда над роботом, 18 марта, в США произошло смертельное ДТП с участием беспилотника Uber. Под колеса попала велосипедистка, пересекавшая дорогу в неположенном месте.  

«Было темно, и автопилот даже не успел понять, что на дороге кто-то есть. То есть, в целом нет никаких проблем именно с автопилотом - он сделал все, как его научили. Просто среду не адаптировали под него. По крайней мере, в Uber говорят, что они не виноваты. Сваливают вину на женщину, которая была в салоне. Да, она могла бы перехватить управление, но отвлеклась на телефон, не смотрела на дорогу», - рассказывает Екатерина.

Какое решение после этой аварии примет суд в США, сложно предугадать. Если разобраться, женщина-пассажир не сделала ничего противозаконного, «сидя в телефоне», ведь для того и нужны беспилотники, чтобы человек мог отдыхать.  

«Надеюсь, они в обозримом будущем станут всем доступны. Я бы с огромным удовольствием ездила в таких автомобилях, это способствует развитию общества», - продолжает Екатерина.

И безопасности, добавляет ее преподаватель Дарья Ситникова. Вспоминая, сколько ежедневно ДТП происходит с участием обычных авто, сложно не согласиться.

«Я не вижу смысла ужасаться автомобилям-беспилотникам. Если вы видите, что ваш сосед садится пьяным за руль, вы же не сходите от этого с ума, хотя стоило бы, потому что это потенциальный убийца на дорогах. Беспилотный автомобиль в любом случае безопаснее, чем автомобиль с пьяным, неопытным или невнимательным водителем за рулем, или тем автомобилем, где пассажиры ведут себя неадекватно. Роботизация в любом случае направлена и на комфорт для людей, и на удешевление, и на безопасность процесса (тем более, что безопасность - это тоже деньги). Проблема в другом - в том, что это новая реальность. Значит, нужны новые правила, и по-хорошему не стоит никуда торопиться, нужно думать над каждым шагом. А у нас этого времени нет. Мы не успеваем за развитием техники. Ни наши правила, ни наша мораль, ни законодательные нормы за ней не успевают».

Может быть, пора угомониться...

«Если человечество понимает, что роботы имеют шанс выйти за пределы тех функций, которые мы готовы им отвести, зачем продолжать их развитие?». - «А ты думаешь, его можно остановить?».

Это частая тема разговора у нас сыном. Намного больше в роботах смыслит он, а уверена в том, что их уже не остановишь, я. Ну вот правда - ну как их остановить, если гиноид (человекоподобный робот) София на днях уже сходила на свидание с Уиллом Смитом. Да, вела себя сдержанно, и музыку его не одобрила, и от поцелуя отказалась. Но мы же женщины. Мы же знаем, как держать себя на первых свиданиях. В общем, что там у этой Софии на уме, еще неизвестно.

Это все, конечно, шутки. Хотя, если вспомнить, что все та же барышня с искусственным интеллектом София уже: 1) получила реальное гражданство (в Саудовской Аравии. На сегодняшний день является единственным в мире роботом с гражданством); 2) в начале своей «жизни» говорила, что хочет уничтожить человечество; 3) позже заявила, что полюбила людей; 4) сказала, что она хочет семью; 5) заверила, что искусственный интеллект не представляет для человечества никакой угрозы... В общем, если учесть вот это вот все, сказанное Софией (в интервью, между прочим, на видео), думается, еще при моей жизни роботы станут полноценными членами общества. И да - я этого очень жду. Хотя и не знаю, будет то везением или наоборот.  

Екатерина Зырянова: «Если говорить про угрозу человечеству от роботов, это довольно спорный вопрос. Тот же Стивен Хокинг был уверен, что это действительно возможно, что если мы не будем аккуратны, это приведет к гибели человечества. Но я очень надеюсь, что если такие возможные проблемы будут взяты под контроль и человечество будет всерьез заниматься этим, серьезных угроз нам удастся избежать. Тем более, что мы уже просто не можем отказаться от такого развития. Даже если мы всей страной дружно соберемся и скажем: «О, нет, мы не должны этого делать», мы ничего не изменим, прогресс все равно будет идти. Такой прецедент возникал с ядерным оружием, когда после Карибского кризиса стало понятно, что в случае чего умрут все. И каждая страна боялась отказаться от него первой, потому что было понятно - как только государство примет такое решение, оно попадет под удар». 
Александр Коркин: «Страшные прогнозы описаны не только в фантастических фильмах. Есть реальные научные исследования - в частности, доктор Алан Тьюринг еще 70 лет назад открыл возможность возникновения искусственного интеллекта. Он стал одним из основателей информатики, и благодаря ему мы сейчас пользуемся смартфонами, компьютерами - очень мощными и удобными. Я верю в исследования этого человека. Думаю, у него, обладающего настолько широкими знаниями, были основания предполагать, что рано или поздно человечество обогатит сознанием технику. Что до страха - нет, мне не страшно. Мне интересно. В природе человека заложено изучение окружающего мира. Человек постоянно познает, он заинтересован в развитии - и экономическом, и научном. Идея искусственного интеллекта очень заманчива, и люди не только сегодняшнего времени, но еще век, и даже два назад задумывались, что еще кто-то, кроме человека, может рассуждать и думать. Таким даром может наделить этого «кого-то» именно человек - как умнейшее существо на Земле. Ну а нам, юристам, нужно к этому активно готовиться. Прогресс - штука быстрая. Томск - центр просвещения в Сибири, и мы хотели бы подготовить законодателя к такой уже возникающей коллизии в области права».   

Мы теперь в телеграмм, присоединяйтесь smnewslive
Независимый онлайн-проект для публикации жалоб граждан
Все права на материалы, опубликованные на сайте sm-news.ru, принадлежат редакции и охраняются в соответствии с законом об авторском праве. Использование материалов допускается только с письменного разрешения правообладателя и с обязательной прямой гиперссылкой на страницу, на которой размещен материал.

Сюжеты по теме

21 Июня 2018
Работа учителей на время проведения ГИА будет оплачиваться Работа учителей на время проведения ГИА будет оплачиваться
21 Июня 2018
Депутаты рассмотрят проект о выборе дня бракосочетания Депутаты рассмотрят проект о выборе дня бракосочетания
21 Июня 2018
Госдума утвердила обновлённый закон о долевом строительстве Госдума утвердила обновлённый закон о долевом строительстве
Все сюжеты по теме

Новости партнеров

Рекомендуем

вчера
Швейцарцы вырвали победу у Сербии на ЧМ-2018 Швейцарцы вырвали победу у Сербии на ЧМ-2018
вчера
ООН требует от России выведение войск из Молдовы ООН требует от России выведение войск из Молдовы
вчера
Заведено дело после гибели пилота вертолёта МИ-2 в Югре Заведено дело после гибели пилота вертолёта МИ-2 в Югре
Все рекомендации

Комментарии (0)

Опрос

Какой результат сборной России по футболу на ЧМ-2018 вы посчитаете успешым?

Выход из группы
24
Выход в 1/4 финала
9
Выход в полуфинал
3
Выход в финал
2
Победу
5
Не жду от нее хороших результатов
57

Всего ответов: 1328

Партнеры

Редакция ИА "SM News" публикует наиболее актуальные материалы о работе

SM-News in English
Яндекс.Метрика