Здравствуйте, в этой статье мы постараемся ответить на вопрос: «Роботы-убийцы уже нацелились на человечество». Если у Вас нет времени на чтение или статья не полностью решает Вашу проблему, можете получить онлайн консультацию квалифицированного юриста в форме ниже.
Такая технология существовала в своей базовой форме уже несколько десятилетий. В 1980-х и 1990-х годах американские военные стратеги экспериментировали с ракетами «Томагавк» и «Гарпун», которые могли идентифицировать цели; обе используются по сей день.
Каковы аргументы в пользу смертельных и независимых оружий?
«Вы не можете справиться с каждой ситуацией. Вы совершите ошибку в любом случае», – утверждает Тони Серри, который до недавнего времени курировал аналитику данных и симуляции в Армии США.
Он считает, что вероятность совершения ошибки автоматизированным оружием очень низкая. «Робот, действующий в миллисекунды, проанализирует данные, которые вы даже не сможете понять, и решит, что это правильное время для использования конкретного оружия». Автоматизированное оружие зачастую сравнивают с беспилотными автомобилями. В обоих случаях машины управляют сложной средой без отвлечений, усталости и других человеческих факторов, которые могут привести к фатальным ошибкам. Тем не менее, оба аргумента в пользу технологий противоречат моделям поведения, которые возникают в результате того, что умные машины интерпретируют мир не так, как люди.
Научатся думать и станут убивать
Перспективы развития боевых РТК эксперты связывают с переходом от дистанционно управляемых систем к автономным, способным решать задачи с минимальным участием человека или совсем без него. Сам нашел цель, опознал ее и уничтожил. При этом возникает набор рисков, связанных с исключением человека из цепочки принятия решений, – на международных площадках это называется «проблемой значимого человеческого контроля». Можно ли делегировать машине право на убийство? Как будут взаимодействовать умные роботы с людьми, и может ли робот отдавать приказ человеку? Да и сам военный конфликт из противостояния вооруженных людей превращается (хотя бы частично) в противоборство человека и думающей машины, нацеленной на убийство людей…
По версии Вадима Козюлина, полностью автономное оружие может оказаться вне рамок международного гуманитарного права. Вдобавок встает проблема юридической ответственности за совершенные действия: если беспилотник неверно определит цели и применит по ним оружие, кто будет отвечать за ошибку?
Сторонники передачи управления оружием от человека к искусственному интеллекту выдвигают ряд аргументов.
Во-первых, они замечают, что нынешняя система управления роботами, когда человек посылает сигнал машине с пульта дистанционного управления, слишком медлительная. Пока человек примет решение и пошлёт команду, боевая машина может быть уничтожена, компьютер же сможет реагировать на опасность практически мгновенно.
Во-вторых, искусственному интеллекту не знакомы такие понятия, как муки совести и страх, а потому роботы смогут более эффективно выполнять поставленные задачи.
Главную опасность — атаку мирных объектов из-за технических ошибок — сторонники применения искусственного интеллекта в военных конфликтах тоже отвергают. Они указывают, что люди намного чаще путают машины скорой помощи с военными грузовиками, больницу с военным складом, а обычную свадьбу со сходкой террористов.
Большинство людей не понимают, что эти системы смогут сами принимать решение, когда им не стрелять, даже когда от них этого потребует человек, — считает один из активных поборников скорейшего внедрения искусственного интеллекта в сферу вооружений профессор Технологического института Джорджии Рон Аркин.
В то же время многие специалисты предупреждают, что со временем машинный «мозг» может выйти из-под контроля человека. Если сегодня искусственный интеллект способен к самообучению только в рамках заранее заданного алгоритма, то в скором времени он приобретёт способность эти алгоритмы переписывать по своему усмотрению. О такой опасности неоднократно говорили, в частности, такие эксперты в области высоких технологий, как владелец SpaceX Илон Маск, основатель Microsoft Билл Гейтс, астрофизик Стивен Хокинг.
Боевые роботы и вопросы этики
Дело в том, что, хотя США относятся к числу лидеров в этой области, такая ситуация, как подчеркивает Пит Сингер, не может длиться вечно.
«Помимо США существует еще 76 стран, которые обладают программами по разработке боевых роботов, — указывает ученый. — Уже сейчас можно купить за пару сотен долларов беспилотный аппарат, который два года назад был засекречен. Речь идет о технологиях, распространяющихся в глобальных масштабах, причем весьма быстро».
Примером этому служит практика применения беспилотных аппаратов, которые используются для точечных ударов по выбранным заранее целям, в том числе и людям. Такие ликвидации боевых командиров или повстанческих лидеров вызывают дебаты в прессе и обществе.
С распространением боевых роботов эти дебаты неизбежно сместятся в область этических принципов их применения.
Нобелевский лауреат Джоди Уильямс готовится развернуть международную кампанию по введению запрета на разработку боевых роботов.
«Если исследования, разработка и в конечном итоге применение таких машин будут продолжаться, весь облик войны изменится ужасающим образом», — считает она.
Профессор Рональд Аркин не согласен с такой оценкой.
По его словам, введение такого запрета без оценки того, могут ли боевые роботы снизить потери среди гражданского населения, игнорирует интересы тех, кто становятся жертвами войн с участием человека.
Для некоторых, насилие против роботов может показаться непримечательным. Действительно, есть ли повод для беспокойства? В недавнем телефонном интервью, директор института робототехники при университете Карнеги-Меллон, посоветовал обратить внимание на агрессию в сторону роботов для улучшения общества .
Возьмем, например проблему голода в мире. Автоматизированные технологии сельского хозяйства и умные алгоритмы могут существенно увеличить урожайность. Автономный трактор уже делает большие успехи в этом направлении. Также существует острая нехватка грамонтного медицинского обслуживания в некоторых частях мира. Появление алгоритмов машинного обучения для диагностики заболеваний может оказать существенное влияние в предоставление дешевого источника медицинской экспертизы для людей с небольшим или совсем никаким доступом к медицинскому обслуживанию.
Почему же существует угроза робот Апокалипсиса? Скорее всего, роботы будут играть ключевую роль в решении многих проблем общества и как люди будут реагировать на своих роботизированных помощников станет вопросом повышенной важности. В этом свете, недавний всплеск насилия против роботов — это больше чем небольшая тревога. Если люди выбирают путь борьбы с роботами, а не принимают, то переход к новой эре технологий вероятно станет неспокойным.
О перспективах военных роботов
Робототехнике уделяют особое внимание во всем мире. Только за последние несколько лет Пентагон выделил на разработку военных роботов 4 млрд долларов. Однако приоритеты в этом направлении все-таки задает гражданский сектор. В настоящее время еще нельзя сказать, что робототехника сильно влияет на сферу обороны и национальной безопасности. Однако все может измениться очень быстро.
Разработка автоматизированных систем находится на переднем крае науки и развития технологий. Чтобы создать по-настоящему эффективного боевого робота, нужно решить множество сложнейших технических задач. Это и разработка принципиально новых источников энергии, мощных и компактных, и создание совершенных датчиков, и обеспечение более надежной связи.
В настоящее время роботы, которых использует человек (в том числе и военные), больше напоминают радиоуправляемые игрушки, чем механизмы, описанные Азимовым и другими мастерами фантастики.
Контраст между практическим применением роботов и НФ существовал с момента появления этого жанра. В истории «Робби», открывавшей сборник «Я, робот» Айзека Азимова от 1950 года, Азимов предсказывал, что к 1998 году роботы уже будут передвигаться достаточно хорошо, чтобы стать партнёром по играм для детей, но при этом «Говорящий робот» будет громоздким устройством, ограниченным пределами музея. В реальности всё произошло наоборот – у вас в кармане, наверно, есть «говорящий» бот, умеющий отвечать на вопросы, но науке ещё предстоит в совершенстве овладеть биомеханикой человеческого движения.
Согласно доктору Сингеру, ноги являются сложной задачей для инженеров, поскольку они комбинируют задачи передвижения и балансировки. Для одного шага требуется работа десятка мускулов, суставов и связок, работающих вместе, от пальцев ног до бёдер, а тело и мозг при этом выполняют подстройку «на лету». Роботы ещё не дошли до этого. Из-за сложности задачи Сингер считает, что разработка ходячих роботов, даже таких известных их представителей, как Atlas от Boston Dynamics, находится в стадии «научного проекта».
«Работа над ними идёт, но ещё не один из проектов не был введён в действие,- говорит Сингер. – Нет ни одного рабочего прототипа, демонстрировавшегося на выставке. Мы ещё не дошли до этого».
По его словам, хотя в лаборатории антропоморфные роботы выглядят многообещающе, но сейчас они пригодны лишь для съёмки крутых видео для YouTube. Многие не могут работать без привязки к внешнему питанию. При этом, другие типы военных роботов – передвигающихся на колёсах, гусеницах, крыльях и пропеллерах – уже используются на полях сражений. «Роботы с ногами – всё ещё научный проект, а другие виды можно потрогать, увидеть в деле и купить».
Может ли искусственный разум не слушать человека
Несмотря на стремительное развитие робототехнической отрасли, существующие сегодня интеллектуальные системы нельзя назвать полноценной конкуренцией человеческому разуму.
Так, специальные программы могут обыграть шахматиста, но не могут отвечать на вопросы, ответы на которые не были ранее запрограммированы. Происходит это потому, что ИИ еще не настолько умен. Основное, чего ему пока не хватает, — автономной возможности думать.
Умные системы работают в соответствии с заранее заданными человеком параметрами. Они способны решать лишь те задачи, для которых и были разработаны, искусственный разум не будет работать в других направлениях. Он не сможет ослушаться человека или принять самостоятельное решение, поскольку попросту на это не способен.
Когда ИИ вытеснит людей
По прогнозам российских ученых, системы прикладного ИИ начнут заменять работников умственного труда в течение ближайших 10-15 лет.
Речь ведется о должностях, связанных с первичной обработкой информации:
- операторов;
- статистов;
- секретарей.
В дальнейшем будут автоматизированы функции работников умственного труда, связанные с четким алгоритмом действий:
- водителей общественного транспорта;
- операторов экскаватора;
- контролеров и кондукторов;
- кассиров;
- продавцов-консультантов;
- переводчиков;
- бухгалтеров;
- космонавтов.
Дети, воспитанные роботами, будут мало приспособлены к жизни
В будущем будет оставаться все меньше дел, которых нельзя доверить роботам. Чисто технически они смогут делать все. Уже сейчас роботы способны развлекать детей в отсутствие пап и мам. Но прогресс не стоит на месте. Однажды мы поддадимся соблазну и доверим им воспитание наших детей. Казалось бы, ну что в этом ужасного – робот и накормит, и спать уложит, и даже прочитает сказку. Расскажет, что делать можно, а чего делать нельзя. А еще оденет ребенка, погуляет с ним и проследит, чтобы он не спутался с плохой компанией и не залез, куда не следует. Сделает все, на что не нахватает времени у родителей. Даже подерется с обидчиком вашего чада. Ваш ребенок будет сыт и одет. Но в будущем воспитание роботом чревато проблемой.
Британский эксперт по робототехнике, профессор Ноэль Шарки предостерегает нас о новой проблеме, связанной с роботами. Профессор считает, что пора задуматься о влиянии роботов на человеческие взаимоотношения. Неконтролируемый рост числа роботов, по мнению Шарки, может привести к недостатку общения между людьми. Причем это касается как социальных роботов, способных общаться с человеком – домашних помощников, воспитателей, медперсонал, – так и различных автоматов и систем, заменяющих людей, например беспилотных автомобилей. Но особенно негативно это отразится на детях.
Если дети будут общаться с роботами, а не с родителями или сверстниками, то неизвестно, как это скажется на их психике и самом важном процессе детства – социализации.
Мы рискуем получить новых маугли. Маугли каменных джунглей, воспитанных роботами, которые просто не найдут общего языка с другими людьми уже во взрослой жизни. Кроме того, по мнению Шарки, есть риск, что повзрослевшие дети, воспитанные роботами, просто забросят своих родителей.
…но в будущем роботы превзойдут нас
Сейчас бытовые роботы – это роботы-пылесосы и милые роботы, развлекающие наших детей. Завтра они станут более универсальными. Роботы-сиделки, кулинары, носильщики и другие домашние роботы станут все более похожи на людей. Все еще больше изменится, когда технологии позволят создать робота с интеллектом, подобным человеческому.
Роботы будущего будут существовать на стыке двух миров – виртуального и реального – и смогут использовать преимущества обоих. Им будет доступна все информация Интернета и возможности их искусственных тел. Нам будет сложно конкурировать с ними.
Мы стоим на пороге взрывного развития робототехники. Нам уже доступны многие технические возможности в создании роботов, только стоит ли их использовать? Ученые по всему миру предостерегают нас от многих опасностей, связанных с массовым появлением роботов в нашей жизни и, в частности, в наших домах. Но они не призывают к тому, чтобы остановить прогресс и запретить создание роботов и искусственного интеллекта. Речь идет о том, чтобы выявить заранее скрытые угрозы, связанные с появлением роботов в нашей жизни, и выработать правила и стандарты робототехники, которые позволили бы нам чувствовать себя в окружении роботов безопасно.
Каких видов бывают роботы
Существует общепринятое разделение робототехники на типы в зависимости от общей области применения. При этом используется классификация, предложенная в вышеупомянутом стандарте ISO 8373:2012:
- Промышленные роботы. Предназначен для выполнения задач в области промышленной автоматизации. Как правило, это манипуляторы всех видов. Например, ученые из Новосибирска разработали робота, способного сортировать бытовые отходы.
- Сервисные роботы. Они призваны заменить или дополнить человека при решении типичных и рутинных задач в сфере услуг. Например, компания OrionStar выпустила Robotic Coffee Master — робота-бариста, способного варить кофе на уровне мастера.
Разделение по методу передвижения
Внешний вид и дизайн робота во многом зависит от того, как он двигается. С этой точки зрения роботизированные машины делятся на:
- Колесо. Это самый простой способ передвижения. Характеристики машины зависят от количества колес. Машины с небольшим количеством движущихся частей более маневренны. Большее количество колес способствует устойчивости машины, улучшает проходимость.
- Отслеживание. Этот метод часто используется на военных машинах. Гусеницы позволяют автомобилю без труда преодолевать труднопроходимую местность.
- Ходьба. Имитация ходьбы затрудняет создание андроида. Добиться требуемой стабильности практически невозможно.
- Летательные. В эту категорию входят беспилотные летательные аппараты, дроны и ракеты.
- Плавающие. Осуществляет навигацию с использованием энергии ветра или гребного винта. Может работать как над водой, так и на глубине.
Вот он, первый человек, которого укокошил робот. Его звали Роберт Уильямс. Бедняга отдал богу душу в 1971 год не без помощи промышленного робота, который случайно огрел беднягу по голове. Машина занималась перекладкой деталей с конвейера в хранилище, когда Уильямс подошёл к хранилищу.
Второе «убийство» через десять лет совершил японский промышленный робот. На этот раз не повезло инженеру Кэндзи Ураде, который пошёл чинить сломанный автомат. Урада не сумел выключить устройство и разбушевавшийся монстр скинул японца с помощью своей гидравлической руки в дробилку. Брр, жуткая смерть.
Нетрудно догадаться, что в реальном мире именно промышленные роботы чаще всего становятся невольными убийцами. Они двигаются очень быстро и, по большей части, им абсолютно наплевать, стоит кто-то рядом, или нет. Как правило, их «рабочее место» огорожено и поэтому чаще всего жертвами этих машин становятся невнимательные рабочие или инженеры, которые устраняют неисправности.