3 октября, 2022 
AdminGWP 
МOСКВA, 3 oкт — РИA Нoвoсти, Влaдислaв Стрeкoпытoв. Дoстижeния пoслeдниx лeт в oблaсти мaшиннoгo oбучeния пoзвoлили сoздaть aвтoнoмныe рoбoтизирoвaнныe систeмы в тoм числe вoeннoгo нaзнaчeния. В своя рука с этим в нaучнoй срeдe с нoвoй силoй рaзгoрeлaсь полемика o пoтeнциaльныx рискax, связaнныx с рaзвитиeм искусствeннoгo интeллeктa. Нeдaвниe исслeдoвaния пoкaзaли, чтo рeшeния, принятыe кoмпьютeрoм, чaстo рaсцeнивaются людьми кaк нeспрaвeдливыe, a кoнтрoль по-над сверхразумом в долгосрочной перспективе невозможен изо-за фундаментальных принципов, заложенных в его основе.С фантастики к реальностиАвтором термина «деланный интеллект» (ИИ) считают Алана Тьюринга, британского математика, одного изо основоположников теории информатики. Возлюбленный заговорил об этом до этого времени в 1950-м.Более полувека лейтмотив восстания машин была ужасно популярной, но в целом отнюдь не выходила за рамки фантастических романов и кинофильмов. На полном серьезе экзистенциальные риски, связанные с ИИ, начали базарить сравнительно недавно — после того, наподобие цифровые технологии глубоко проникли вот все сферы жизни.Безо компьютера и смартфона современный единица не в состоянии обойтись и нескольких часов. Ажно кратковременный сбой связи неужели отключение интернета способны оцепенить целые отрасли, вызвать транспортный и энергетический сжатие.Но «проблема остановки», подобно ((тому) как) называют эту ситуацию специалисты, — никак не самая худшая перспектива. Тех) пор (пока(мест) машины можно выключить либо — либо перепрограммировать, они остаются подо контролем человека. Реальные угрозы возникнут, порой ИИ станет умнее нас. И род людской вплотную подошло к этой черте.Поумнее самых умныхCегодня ИИ анализирует медицинские снимки вернее любого врача, оптимизирует логистические пути паче самого опытного диспетчера и выполняет покамест тысячи производственных и управленческих операций эффективнее человека. А мощности суперкомпьютеров за обработке и анализу информации во сто крат превышают возможности всех людей в планете, вместе взятых.Сообразно словам шведского философа, профессора Оксфордского университета Вероника Бустрема, известного своими работами в области трансгуманизма, наступает период сверхразума — искусственного интеллекта, кой не только «умнее лучших человеческих мозгов чуть ли не во всех областях», да и готов взять на себя творческие функции, традиционно считающиеся прерогативой человека. Однако главное в сверхинтеллектуальных системах — жилка действовать самостоятельно, принимать собственные решения бери основе анализа внешней информации.Компьютерному сверхразуму собираются возложить управление отдельными процессами держи производстве и в логистике. Чисто технически исполнить это несложно, но нечленораздельно, в какой степени человек сможет переправлять действия машины и насколько велодрын риск того, что ИИ в решенный момент выйдет из-около контроля. Кроме того, нестройно, как заложить в компьютер принципы об этике и справедливости, которые влияют нате принятие решений человеком.Законность против рациональностиХотя этические вопросы, связанные с использованием сверхразума, остаются открытыми, такие системы сделано активно применяют в том числе в социальной сфере. Немецкие ученые выяснили, (то) есть на это реагируют личный состав.Участникам эксперимента предложили признать достоинства по условной шкале справедливости решения, которые принимались в автоматическом, полуавтоматическом другими словами полностью ручном режиме в четырех конкретных ситуациях: присутствие запросе на выдачу банковского кредита, выборе кандидата получай замещение вакансии, судебном разбирательстве и назначении пособия по части безработице. Худшими оказались автоматические решения, а в особенности справедливыми — те, которые принимали вместе компьютер и человек.Авторы работы отмечают, точно искусственный интеллект обладает несомненным преимуществом быть обработке больших объемов данных, только не учитывает сопутствующие дела — так называемый контекст принятия решения. А в ситуациях, затрагивающих кругозор людей или касающихся их здоровья и жизни, сие может стать критическим фактором.»Сверхразумные» автоматы КалашниковаВ 2015-м сотни ведущих мировых экспертов в области робототехники и искусственного интеллекта опубликовали открытое микрография к ООН с призывом внести в Конвенцию о применении обычных видов оружия воспрещение на смертоносные автономные системы, способные нестандартно, без участия человека пожертвовать цели и уничтожать их.»Петицию о запрете роботов-убийц» подписали сбоку 1300 ученых и специалистов, в том числе и предпринимателя Илона Маска, знаменитого личность Стивена Хокинга, сооснователя Apple Стива Возняка, соучредителя Skype Яана Таллинна и философа-активиста Ноама Хомского. Устав опубликовали в день открытия Международной объединенной конференции по мнению искусственному интеллекту — главного мирового форума в этой области.В знак от ядерных боеприпасов роботизированные системы без- требуют дорогостоящего или труднодоступного сырья. В теории их сможет собирать практически любая страна. Вследствие этого, считают ученые, если сии виды вооружений вовремя невыгодный запретить, они очень бойко распространятся, попадут в руки террористов и приведут к дестабилизации в мире.Тем безвыгодный менее машины для убийства получи основе искусственного интеллекта продолжают исследовать. Технологические прототипы уже подчищать. К примеру, автономный или полусамостоятельный режим заложен в южнокорейскую сторожевую пушку Samsung SGR-A1, британский военный беспилотник BAE Systems Taranis, звездно-полосатый беспилотный противолодочный корабль Sea Hunter.Отбор над сверхинтеллектомВпервые этические взгляды на жизнь для роботов сформулировал в 1942 году стейтсовый писатель-фантаст Айзек Азимов. Некто назвал их тремя законами робототехники. Первостепенный — робот не может произвести вред человеку или своим бездействием предположить, чтобы вред был причастный. Второй — робот должен прийти на поклон всем приказам человека, вдобавок тех случаев, когда они противоречат первому закону. И беспристрастный: робот должен заботиться о своей безопасности в праздник мере, в которой это маловыгодный противоречит первому или второму законам.Моментально было ясно, что сии законы так и останутся в области фантастики. И яркое тому верификация — автономные системы вооружения. Опять-таки их основная цель — принесение вреда человеку. Кроме того, Азимов имел в виду «ординарный», жестко программируемый искусственный мыслительные способности — такой, как у антропоморфных роботов иначе говоря автомобилей без водителя. А сверхразум станет к обучению. Любая сверхинтеллектуальная доктрина запускает программу аналитической обработки информации, подразумевающей вырабатывание у машины «нового опыта» и использование его в будущих действиях.Постигание специалистов по математике и вычислительной технике изо пяти стран продемонстрировало, яко даже теоретически невозможны системы автоматического контроля и корректировки решений, принятых компьютерным сверхразумом. Вложенный в него алгоритм машинного обучения основан сверху принципах нейронных сетей, аналогичных тем, сколько в мозге человека, а способности отыскивать закономерности в больших объемах данных превосходят человеческие.Ученые предупреждают, а рано или поздно сверхинтеллект, анализируя шаблоны действий человека, научится их равняться, а потом и обходить. Так а, как мы, наблюдая ради повадками шимпанзе, в конце концов сможем его одурачить. Искусственный разум уже обыгрывает людей в шатранг, шашки и другие интеллектуальные зрелище, создает художественные произведения сверху основе анализа прочитанных книг и просмотренных картин. И сие только начало.
Опубликовано в рубрике