Давос 2016: развитие робототехники бросает новые вызовы

Участники всемирного экономического форума в Давосе обсудили вызовы, которые ставит стремительное развитие робототехники

Экспертное сообщество обеспокоено угрозами правам человека, а также всё возрастающими темпами сокращения рабочих мест, уничтожаемых роботами, алгоритмами и программами.

Четвёртая промышленная революция

Ключевая особенность текущей промышленной революции — её скорость. Именно скорость порождает ряд проблем, способы решение которых сейчас вырабатываются. Когда фермеров заменяли промышленные рабочие, это происходило в режиме смены поколений: не столько крестьяне массово переквалифицировались, сколько их дети уезжая в города обучались новым профессиям. Сейчас достаточно сильные изменения происходят за времена, намного меньшие длительности жизни человека, а это значит что образовательная система должна быть готова к массовому переучиванию взрослых людей. Да и люди должны быть психологически готовы к изменениям.

Отчёт о будущем рынка труда основан на изучении 15 стран, в число которых Россия не попала, тем не менее его выводы применимы и к нам. Студентам рекомендую ознакомиться с ним подробнее, — многие из них сейчас изучают исчезающие специальности.

Последние годы пресса насадила людям представление о том, что данные изменения коснутся прежде всего рабочих специальностей — было много публикаций о внедрении промышленных роботов на производстве.

Вместе с тем, эксперты отметили, что на первом этапе самые массовые сокращения ожидают не представителей производственных специальностей, а административный персонал — так называемых “белых воротничков”. Связано это с тем, что компаниям заменить программное обеспечение проще и дешевле, чем производственное оборудование. Новые алгоритмы и программы позволят автоматизировать большее число операций. Необходимость их выполнения офисными служащими отпадет. Больше всего пострадают женщины.

Оценка по изученным странам на ближайшие 5 лет (к 2020 году) такова — сокращение более 7 миллионов рабочих мест. Новые места будут создаваться, но в меньшем количестве — всего 2 миллиона рабочих мест. Итог неутешителен — чистая потеря 5 миллионов рабочих мест.

Давос 2016: развитие робототехники бросает новые вызовы
Иллюстрация RobotReview

Угрозы правам человека

Помимо уничтожения рабочих мест, внимание экспертов форума было приковано к ещё одной теме, где скорость технического прогресса захватывает человечество врасплох. И тема эта пострашнее — автономные боевые роботы.

Выступивший на форуме глава британского производителя оружия BAE Роджер Карр заявил, что несмотря на прозвучавшие в этом году протесты таких людей, как основатель Tesla Элон Маск, — в настоящее время разработки по созданию боевых автономных роботов ведутся в 40 станах, включая США. Соединённые штаты лидирует, сказал Барр, хотя это единственная страна в мире, где существует законодательный запрет на использование таких устройств до 2022 года.

Анджела Кейн, представитель ООН по вопросам разоружения, заявила, что разговоры о принятии норм международного права, регулирующих этот вопрос начались в 2014 года, однако достигнутый прогресс незначителен. “На сегодняшний день не существует даже общепринятого определения того, что можно называть роботом-убийцей или автономным оружием”, сказала Кеин.

Привыкшее десятилетиями обсуждать и шлифовать формулировки договоров, международное сообщество просто не в состоянии принять что-либо, регулирующее применение этих умных смертоносных машин: предмет изменяется быстрее, чем дипломаты его понимают. А тем временем утверждается, что такие боевые устройства станут доступны через пару лет.

Профессор компьютерных наук Калифорнийского университета, Стюарт Рассел, сообщил участникам, что в ближайшие два года ожидает появление таких автономных боевых машин, которые будут способны самостоятельно исполнить приказ “уничтожить всех мужчин в возрасте до 40 лет в городе.”

Однако, даже в отсутствие специального закона, все участники дискуссии согласились с тем, что приказ об убийстве человека, отданный автономному роботу, будет нарушать международное гуманитарное право, поскольку противоречит конвенциям о правилах ведения войн.

Примечательно отношение обычных людей к возможности использования роботов в войнах. Участники опроса более благосклонно отнеслись к отправке роботов погибать вместо своих сыновей и дочерей, чем к тому чтобы их противники использовали роботов в охоте за ними. И это очень хорошо показывает психологию гонки вооружений — или ты первый создашь оружие, позволяющее получить военное превосходство, или будешь страдать от такого оружия.

С точки зрения прав человека, автономные боевые роботы вызывают беспокойство по ряду причин:

  • применение оружия без полноценного и эффективного контроля со стороны человека увеличит вероятность незаконных убийств и увечий на поле боя — машины не смогут правильно оценить сложные ситуации, а также оценить соразмерность ответного удара;

  • несмотря на то, что некоторые эксперты по технологиям доказывают, что автономные роботы могут быть запрограммированы так, что будут соблюдать международное право, многим это кажется невероятным;

  • и наконец, позволить роботам получить власть над вопросами жизни и смерти, значит поступиться фундаментальным моральным принципом. Для нас важнее, что это также нарушает право человека на жизнь и достоинство, поскольку можно сказать, что убийство людей машинами является крайней степенью унижения достоинства, и люди не должны превратиться лишь в объекты.

В пресс-службе “Объединённой приборостроительной корпорации” группы “Ростех”, на запрос RobotReview сообщили, что в конце 2015 года успешно прошла испытания система автоматизированного управления группами роботов “Уникум”, созданная для нужд министерства обороны. Практически любой вновь разработанный робот может быть включен в управляемую группировку без существенных доработок. Робот, действующий в составе группировки, получает информацию не только от своих сенсоров, но и от сенсоров других роботов.

“Если Уникум принимает критическое решение (прим. — поражение живой цели), — требуется обязательное подтверждение оператором”, — говорит Леонид Хозин.

Такой подход мне видится верным. Он не только позволяет решить этическую проблему, но и избежать технических ошибок. Дело в том, что как бы не совершенствовались алгоритмы распознавания объектов, разработчикам не удается добиться 100% точности. Проблему очень хорошо описал Андрей Себрант из Яндекса — рекомендую посмотреть его лекцию. Суть её в том, что машинное обучение, используемое в таких алгоритмах, позволяет добиться более высокой, чем у человека, средней точности распознавания, однако иногда машина совершает настолько грубую ошибку, которую никогда не допустил бы человек. Например, распознает в обычной фотографии яблока какое-нибудь животное. Это грубый пример — для общего понимания.