На минувших выходных на встрече Национальной ассоциации губернаторов в штате Род-Айленд небезызвестный Илон Маск получил возможность рассказать 50 наиболее влиятельным политикам США, какой самой важной проблемой должно заняться правительство.
Из всех возможных оказий, миллиардер решил порекомендовать властям всерьез заняться предотвращением восстания машин, чтобы спасти человечество от кровожадных роботов.
«ИИ — это фундаментальный экзистенциальный риск для человеческой цивилизации, и я не думаю, что люди это осознают», — сказал Маск.
Затем он попросил губернаторов рассмотреть гипотетический сценарий, в рамках которого программа торговли акциями сбила малайзийский лайнер над Украиной лишь ради того, чтобы увеличить стоимость своего портфеля ценных бумаг.
В заключение Маск призвал к созданию регулятора, который заставил бы компании, внедряющие ИИ, притормозить разработки.
Но эксперты с ним не согласились
По мнению людей, которые проводят за разработкой искусственного интеллекта гораздо больше времени, чем Илон Маск (который сегодня больше занят автомобилями, космосом и солнечной энергетикой), подобные апокалиптические сценарии лишь отвлекают правительство стран от реальных проблем.
Так, Педро Домингос, профессор, который работает над машинным обучением в Университете штата Вашингтон, тяжело «вздохнул» в своем Twitter, когда прочел, что именно заявил основатель Tesla и SpaceX на тему ИИ.
«Многие из нас пытались донести ему и таким, как он, представление о реальных и предполагаемых опасностях ИИ. Но это, кажется, бесполезно», — признался Домингос.
По его словам, правительству США следует думать не о восстании машин, а о том, что ИИ может дать непропорциональную власть над рынком нескольким крупным технологическим компаниям.
С ним согласен Ияд Рахван, работающий над ИИ в MTI.
«Надо беспокоиться не о том, что торговые боты становятся достаточно умными, чтобы начать войну в качестве инвестиционной стратегии, а о том, как сегодня люди могут использовать ботов для распространения дезинформации в интернете, в частности, для вымогания денег и сбора средств для мошеннических проектов», — сказал Рахван.
При этом ученый уточняет, что он не отрицает самой возможности восстания машин, однако полагает, что самый прагматический способ к этому подготовиться — это, напротив, активнее принимать участие в непосредственной разработке ИИ.
«Сосредоточившись на более краткосрочных вопросах, в конечном счете мы сможем породить такие нормативные акты, которые позволят нам выйти сухими из воды в гораздо более опасных сценариях поведения ИИ», — сказал ученый.
По мнению Райана Кало, который занимается этическими вопросами робототехники в Университете штата Вашингтон, вместо того, чтобы сочинять фантастические истории о роботах-убийцах, Илону Маску в первую очередь стоило бы разобраться с тем, как человек использует ИИ уже сегодня.
«Всегда интересно послушать Маска, когда он говорит о восстании роботов, на фоне новостей о том, как люди погибают в автономных машинах, Маском же и построенных», — говорит Кало.
Хотя в целом ученый согласен с необходимостью регулировать развитие ИИ на государственном уровне, он утверждает, что сегодня правительству следует сосредоточиться на более приземленных вопросах: в частности, разработать стандарты безопасности для беспилотных автомобилей, а также уделить внимание проблеме конфиденциальности, которая стоит на повестке дня из-за тотального распространения таких вездесущих устройств, как дроны.
«ИИ — это то, на что правительство должно обратить внимание, но экзистенциальные угрозы отвлекают его внимание от реальных проблем, которые ИИ может создать в ближайшем будущем», — говорит он.
Напоследок отметим, что даже во время выступления Маска некоторые собравшиеся губернаторы откровенно посмеивались над его предложением.
Так, губернатор штата Аризона Дуг Дуче (республиканец) заявил о полном непринятии предложения Маска о создании регулятора, который может замедлить работу компаний.
«Обычно регуляторы не бегут впереди предпринимателей и новаторов», — заявил Дуче, отметив, что на работе, он, напротив, пытается бороться с государственным регулированием.
На это Маск ответил, что создание новой политики по ИИ должно произойти только после того, как проблема ИИ будет изучена государством.
«Я говорю об этом просто для того, чтобы убедиться, что власть осознает проблему, — парировал Маск. — Я думаю, что когда проблему осознают широкие массы, то эти вопросы будут подниматься сами собой».
- Ранее сообщалось, что популяризатор науки Нил Тайсон поставил под сомнение планы Илона Маска по освоению Марса.
