пятница, 03 мая 2024
,
USD/KZT: 425.67 EUR/KZT: 496.42 RUR/KZT: 5.81
Подведены итоги рекламно-медийной конференции AdTribune-2022 Қаңтар оқиғасында қаза тапқан 4 жасар қызға арналған мурал пайда болды В Казахстане планируется ввести принудительный труд в качестве наказания за административные правонарушения Референдум - проверка общества на гражданскую зрелость - Токаев Екінші Республиканың негізін қалаймыз – Тоқаев Генпрокуратура обратилась к казахстанцам в преддверие референдума Бәрпібаевтың жеке ұшағына қатысты тексеріс басталды Маңғыстауда әкім орынбасары екінші рет қызметінен шеттетілді Тенге остается во власти эмоций Ресей өкілі Ердоғанның әскери операциясына қарсы екенін айтты Обновление парка сельхозтехники обсудили фермеры и машиностроители Казахстана Цены на сахар за год выросли на 61% Научно-производственный комплекс «Фитохимия» вернут в госсобственность Сколько налогов уплачено в бюджет с начала года? Новым гендиректором «Казахавтодора» стал экс-председатель комитета транспорта МИИР РК Американский генерал заявил об угрозе для США со стороны России Меркель впервые публично осудила Россию и поддержала Украину Байден призвал ужесточить контроль за оборотом оружия в США Супругу Мамая задержали после вывешивания баннера в поддержку политика в Алматы Казахстан и Южная Корея обсудили стратегическое партнерство Персональный охранник за 850 тыс тенге: Депутат прокомментировал скандальное объявление Россия и ОПЕК решили увеличить план добычи нефти Рау: Алдағы референдум – саяси ерік-жігердің айрықша белгісі Нью-Делиде Абай мүсіні орнатылды «Свобода 55»: иммерсивный аудиоспектакль про выбор, свободу и январские события

Как предотвратить апокалипсис искусственного интеллекта

Согласно апокалиптическим представлениям, машины, управляемые ИИ, станут умнее людей, захватят мир и всех нас убьют. Такой сценарий часто появляется в научной фантастике, и от него достаточно легко отмахнуться, поскольку люди сохраняют за собой полный контроль. Тем не менее, многие специалисты по искусственному интеллекту серьёзно относятся к этой апокалиптической перспективе, и они совершенно правы. Всему остальному обществу следует поступить точно так же.

Новейшие достижения в сфере искусственного интеллекта трудно не назвать радикальными. Искусственный интеллект (сокращённо ИИ) преображает едва ли не все отрасли человеческой деятельности – от транспорта до медицины и обороны. Именно поэтому нам стоит задуматься о том, что произойдёт, когда ИИ станет ещё более продвинутым, чем сегодня.

Чтобы лучше понять, что именно стоит на кону, надо обратить внимание на различие между так называемым «узким ИИ» и «общим искусственным интеллектом» (сокращённо AGI). Узкий ИИ может оперировать лишь в одной-двух областях в конкретный момент времени, поэтому он способен превзойти людей лишь в выполнении некоторых конкретных задач; он всегда остаётся под контролем человека.

Напротив, AGI может осмыслять очень широкий спектр видов деятельности и, следовательно, может копировать многие интеллектуальные навыки человека, сохраняя при этом все преимущества компьютеров, например, идеальную память. Работая на ультрасовременной компьютерной технике, AGI может превзойти когнитивные  способности человека. Более того, очень трудно себе представить верхний порог развития продвинутого AGI.

На сегодня большинство ИИ являются узкими. И даже самые продвинутые современные системы обладают лишь ограниченной степенью генерализации. Например, система AlphaZero компании Google DeepMind научилась играть в го, шахматы и сёги. Благодаря этому, у неё появилась более высокая степень генерализации, чем у большинства других систем ИИ, которые можно применять только к какому-нибудь одному конкретному виду деятельности. Тем не менее, данная система продемонстрировала свои способности лишь в ограниченных рамках нескольких жёстко структурированных настольных игр.

Многие специалисты отрицают перспективу появления продвинутого AGI. Одни, например, Селмер Брингсйорд из Политехнического института Ренсселера и Дрю Макдермотт из Йельского университета, доказывают, что у искусственного интеллекта не возможности стать умнее человечества. Другие, например, Маргарет Боден из Университета Сассекса и Орен Этциони из Института искусственного интеллекта им. Аллена, считают, что достижение искусственным интеллектом уровня человека может стать возможным в далёком будущем, но сейчас ещё слишком рано начинать об этом беспокоиться.

Эти скептики не являются маргинальными фигурами, подобными тем безумцам, которые пытаются поставить под сомнение науку об изменении климата. Это выдающиеся учёные в сфере компьютерных наук и связанных областях, к их мнению следует относиться серьёзно.

Но есть и другие выдающиеся учёные (в их числе Дэвид Чалмерс из Нью-Йоркского университета, Аллан Дефо из Йельского университета, Стюарт Рассел из Калифорнийского университета в Беркли, Ник Бостром из Оксфордского университета, Роман Ямпольский из Университета Луисвилля), которые обеспокоены тем, что AGI может стать серьёзной, даже экзистенциальной угрозой человечеству. Поскольку эксперты пока спорят по этому вопросу, нам следует сохранять объективность.

AGI является предметом значительных научных исследований. Недавно я завершил обзор проектов исследований и разработок в сфере AGI, обнаружив 45 таких проектов в 30 странах на шести континентах. Многие из этих программ реализуются либо в крупных корпорациях, например, Baidu, Facebook, Google, Microsoft и Tencent, либо в ведущих университетах, например, Карнеги-Меллон, Гарвард, Стэнфорд, а также в Китайской академии наук. Было бы просто неразумно полагать, что ни один из этих проектов никогда не добьётся успеха.

Ещё один метод оценки потенциальной угрозы AGI – сравнить этот риск с рисками других катастроф. В 1990-е годы Конгресс США посчитал полезным, чтобы агентство НАСА следило за крупными астероидами, которые могут столкнуться с Землёй, хотя вероятность такого столкновения составляет 1 к 5000 в течение ста лет. В случае AGI вероятность наступления катастрофы в течение века намного выше – 1 к 100 или даже 1 к 10, всё зависит от темпов научных разработок и степени озабоченности экспертов.

Тем самым, возникает вопрос: а что с этим делать? Прежде всего, мы должны гарантировать, чтобы научные исследования велись ответственно, безопасно и этично. Для этого потребуется более глубокий диалог между теми, кто работает в сфере ИИ, с одной стороны, и властями, социологами и встревоженными гражданами, с другой. Специалисты по ИИ разбираются в технологиях, и именно они будут создавать ИИ в соответствии с согласованными стандартами. Но они не должны в одиночку решать, какими должны быть эти стандарты. Многие люди, занятые разработкой программ ИИ, не привыкли думать о последствиях своей работы для общества. Изменить ситуацию можно, лишь подвергнув их внешней оценке.

Властям придётся заняться и международным аспектом AGI. Сейчас основная масса исследований в сфере AGI ведётся в США, Европе и Китае, но многие коды являются открытыми, а это означает, что данная работа потенциально может проводиться где угодно. Тем самым, введение стандартов и базовых этических правил, в конечном счёте, является задачей всего международного сообщества, хотя научно-исследовательские центры должны задавать тон в этой работе.

В перспективе отдельные усилия по решению проблемы рисков, создаваемых AGI, могут опираться на те политические инициативы, которые уже появились в связи с проблемами «узкого ИИ». Пример такой инициативы – новая двухпартийная группа по вопросам ИИ, созданная Джоном Делейни, конгрессменом-демократом из Мэриленда. Есть много возможностей для синергии между теми, кто занят краткосрочными рисками ИИ, и теми, кто думает о долгосрочной перспективе.

Впрочем, вне зависимости от того, рассматриваются ИИ и AGI вместе или раздельно, самое важное, чтобы мы предприняли конструктивные действия сейчас с целью минимизировать риск катастрофы в будущем. Это не та задача, выполнение которой мы можем откладывать до последней минуты.

 

Сет Баум – исполнительный директор Института рисков глобальных катастроф (GCRI), научного центра, изучающего экстремальные глобальные риски. Он также работает с Институтом науки при фонде Blue Marble Space и с Центром изучения экзистенциальных рисков при Кембриджском университете.

 

Copyright: Project Syndicate, 2018. www.project-syndicate.org

Оставить комментарий

Общество

Автопарк страны сокращается и стареет Автопарк страны сокращается и стареет
Редакция Exclusive
BUSINESS WOMEN FORUM BUSINESS WOMEN FORUM
Редакция Exclusive
Сигареты подорожали сразу на 10% за год, и это не предел. Сигареты подорожали сразу на 10% за год, и это не предел.
Редакция Exclusive
Первая волна феминизма предпочитает академичность Первая волна феминизма предпочитает академичность
Ботагоз Сейдахметова
Жажда казахстанцам не грозит Жажда казахстанцам не грозит
Редакция Exclusive
«Фарт» как фактор стабильности и консерватизма «Фарт» как фактор стабильности и консерватизма
Редакция Exclusive
Красота требует денег Красота требует денег
Редакция Exclusive
Политика и машинное обучение Политика и машинное обучение
Редакция Exclusive
В Казахстане кадровый голод В Казахстане кадровый голод
Редакция Exclusive
Выходим из депрессии? Выходим из депрессии?
Редакция Exclusive
Ядерное разоружение США Ядерное разоружение США
Редакция Exclusive
Exclusive'ная панорама недели Exclusive'ная панорама недели
Редакция Exclusive
Куда и зачем мигрируют женщины и молодежь? Куда и зачем мигрируют женщины и молодежь?
Редакция Exclusive
Проблема шоколадной устойчивости Проблема шоколадной устойчивости
Редакция Exclusive
Казахский язык: так ли уж все плохо? Казахский язык: так ли уж все плохо?
Аскар Муминов
Новый Налоговый кодекс: еще одна попытка Новый Налоговый кодекс: еще одна попытка
Редакция Exclusive
Трезво смотреть на жизнь все дороже Трезво смотреть на жизнь все дороже
Редакция Exclusive
Женский взгляд на правовые реформы Женский взгляд на правовые реформы
Редакция Exclusive
Астанчане пошли в казино Астанчане пошли в казино
Редакция Exclusive
Губительное дыхание нефтяных скважин Губительное дыхание нефтяных скважин
Редакция Exclusive
Сколько стоит Казахстан? Сколько стоит Казахстан?
Ботагоз Сейдахметова
Руслан Азимов: «Русские никому ничем не обязаны» Руслан Азимов: «Русские никому ничем не обязаны»
Редакция Exclusive
Базис и надстройки: Exclusive'ная панорама недели Базис и надстройки: Exclusive'ная панорама недели
Редакция Exclusive
Казахстанцы стали дорожить своей жизнью Казахстанцы стали дорожить своей жизнью
Редакция Exclusive
Минздрав лжет? Минздрав лжет?
Редакция Exclusive
BUSINESS WOMEN FORUM BUSINESS WOMEN FORUM
Редакция Exclusive
«Дети Березовки» ждут любой помощи «Дети Березовки» ждут любой помощи
Аскар Муминов
Чем больше мы добываем нефти, тем больше шансов остаться без воды Чем больше мы добываем нефти, тем больше шансов остаться без воды
Редакция Exclusive
Необутые и не одетые казахи Необутые и не одетые казахи
Редакция Exclusive
Как богатые зарабатывают на здоровье бедных Как богатые зарабатывают на здоровье бедных
Редакция Exclusive
Бензин дорожает, нефтедобыча растет Бензин дорожает, нефтедобыча растет
Редакция Exclusive
Под прицелом инфляции Под прицелом инфляции
Редакция Exclusive
The show must go on: Exclusive'ная панорама недели The show must go on: Exclusive'ная панорама недели
Редакция Exclusive
Казахстан как интегратор тюркского мира Казахстан как интегратор тюркского мира
Редакция Exclusive
Страницы:1 2 3 4 5 6 ... 33