понедельник, 07 октября 2024
,
USD/KZT: 425.67 EUR/KZT: 496.42 RUR/KZT: 5.81
Подведены итоги рекламно-медийной конференции AdTribune-2022 Қаңтар оқиғасында қаза тапқан 4 жасар қызға арналған мурал пайда болды В Казахстане планируется ввести принудительный труд в качестве наказания за административные правонарушения Референдум - проверка общества на гражданскую зрелость - Токаев Екінші Республиканың негізін қалаймыз – Тоқаев Генпрокуратура обратилась к казахстанцам в преддверие референдума Бәрпібаевтың жеке ұшағына қатысты тексеріс басталды Маңғыстауда әкім орынбасары екінші рет қызметінен шеттетілді Тенге остается во власти эмоций Ресей өкілі Ердоғанның әскери операциясына қарсы екенін айтты Обновление парка сельхозтехники обсудили фермеры и машиностроители Казахстана Цены на сахар за год выросли на 61% Научно-производственный комплекс «Фитохимия» вернут в госсобственность Сколько налогов уплачено в бюджет с начала года? Новым гендиректором «Казахавтодора» стал экс-председатель комитета транспорта МИИР РК Американский генерал заявил об угрозе для США со стороны России Меркель впервые публично осудила Россию и поддержала Украину Байден призвал ужесточить контроль за оборотом оружия в США Супругу Мамая задержали после вывешивания баннера в поддержку политика в Алматы Казахстан и Южная Корея обсудили стратегическое партнерство Персональный охранник за 850 тыс тенге: Депутат прокомментировал скандальное объявление Россия и ОПЕК решили увеличить план добычи нефти Рау: Алдағы референдум – саяси ерік-жігердің айрықша белгісі Нью-Делиде Абай мүсіні орнатылды «Свобода 55»: иммерсивный аудиоспектакль про выбор, свободу и январские события

Есть ли у машин мораль и национальность?

В течение последних нескольких лет в исследовании “Moral Machine”, проводимом Массачусетским технологическим институтом, были изучены общественные предпочтения: как искусственный интеллект должен вести себя в различных ситуациях? Выяснилось, что это зависит от того, в какой стране оно произведено.

Например, в AV-версии классической “проблемы вагонетки”, некоторые могли бы предпочесть, чтобы машина ударила осужденного за убийство, прежде чем причинить вред другим, или чтобы она сбила пожилого человека, а не ребенка. Третьи могли бы утверждать, что AV должно просто рискнуть, чтобы избежать дискриминации на основе фактических данных.

Как правило, такие затруднительные ситуации зарезервированы для залов судебных заседаний или полицейских расследований постфактум. Но в случае с AV, выбор будет сделан в течение нескольких миллисекунд, а этого времени недостаточно для принятия обоснованного решения. Важно не то, что знаем мы, а то, что знает машина. Вопрос в том, какая информация должна быть заложена в AV об окружающих их людях. И надо ли предоставлять фирмам возможность предлагать различные этические системы для достижения конкурентного преимущества?

Рассмотрим следующий сценарий: автомобиль из Китая имеет заводские стандарты, отличные от автомобилей, произведенных в США, но поставляется и используется на территории США. Эти автомобили китайского производства и американского производства движутся к неизбежному столкновению. Какая система должна преобладать, если водитель китайского автомобиля имеет этические предпочтения, отличные от водителя американского автомобиля?

Помимо культурных различий в этических предпочтениях, необходимо учитывать различия данных положений из разных стран. Например, автомобиль китайского производства может иметь доступ к данным социальной оценки, что позволяет его алгоритму принятия решений включать дополнительные ресурсы, которые недоступны для американских автопроизводителей. Более полные данные могли бы привести к лучшим, более последовательным решениям, но должно ли это преимущество позволить одной системе отвергать другую?

Очевидно, что прежде чем AV массово выйдут на дорогу, мы должны будем определить, на ком лежит ответственность за принятие алгоритмических решений, будь то муниципальные власти, национальные правительства или многосторонние учреждения. Более того, нам понадобятся новые рамки для управления этим пересечением бизнеса и государства. Проблема заключается не только в том, как поведет себя AV в экстремальных ситуациях, но и в том, как компании будут взаимодействовать с различными культурами при разработке и внедрении алгоритмов принятия решений.

Несложно представить, что все производители AV просто будут рекламировать этические системы, которые ценят жизнь водителя превыше всего, или которые позволяют пользователю переключать свои собственные этические настройки. Чтобы предотвратить эту “трагедию общих ресурсов”, необходимы рамки для установления связи и координации решений между AV. Но при разработке таких систем в разных культурных контекстах, директивные органы и предприятия столкнутся с различными культурными представлениями о суверенитете, конфиденциальности и индивидуальной автономии.

Это создает дополнительные проблемы, поскольку системы ИИ не терпят двусмысленности. Разработка ИИ-приложения с нуля требует глубокой специфики; хорошо это или плохо, но эти системы делают только то, что вы им говорите. Это означает, что фирмам, правительствам и другим поставщикам услуг придется делать однозначный выбор при кодировании протоколов реагирования для различных ситуаций.

Тем не менее, прежде чем это произойдет, директивным органам необходимо будет установить сферу алгоритмической ответственности, чтобы определить, какие решения, если таковые имеются, должны быть оставлены на усмотрение компаний или отдельных лиц. Те, что находятся в ведении государства, должны быть обсуждены. И учитывая, что на этические и моральные вопросы нет простых ответов, вряд ли можно достичь консенсуса. За исключением окончательного решения, нам нужно будет создать системы, которые, по крайней мере, облегчат связь между AV и рассудят алгоритмические споры и дорожные происшествия.

Учитывая необходимость конкретизации при разработке алгоритмов принятия решений, само собой разумеется, что будет необходим международный орган для установления стандартов, в соответствии с которыми решаются моральные и этические дилеммы. В конце концов AV, являются лишь одним из приложений алгоритмического принятия решений. Заглядывая вперед, стандарты алгоритмической ответственности должны будут управляться во многих областях.

В конечном счете, первый вопрос, который нам надлежит решить, имеют ли фирмы право разрабатывать альтернативные этические рамки для принятия алгоритмических решений. Мы утверждаем, что у них этого права нет.

В эпоху ИИ, некоторые компоненты глобальных производственно-сбытовых цепочек в конечном итоге будут автоматизированы как само собой разумеющееся, и с этого момента они больше не будут рассматриваться в качестве областей, в которых компании могут добиться конкурентного преимущества. Процесс определения и вынесения решения по алгоритмической ответственности должен стать одной из таких областей. Так или иначе, решения будут приняты. Лучше, чтобы по ним было принято единое решение и как можно более демократично.

Марк Эспозито, профессор бизнеса и экономики, имеющий контракт с Hult International Business School и Гарвардским университетом, является соучредителем Nexus FrontierTech и научным сотрудником Школы государственного управления имени Мохаммеда бин Рашида в Дубае и Кембриджской бизнес-школы.

Теренс Це, профессор Европейской бизнес-школы ESCP в Лондоне, является соучредителем Nexus FrontierTech.

Джошуа Энтсмингер, исследователь в Nexus FrontierTech и старший научный сотрудник Ecole des Ponts Center по политике и конкурентоспособности.

Орели Жан, ученый в области вычислительной техники, является основателем In Silico Veritas, консультантом Boston Consulting Group и внештатным сотрудником Министерства образования Франции.

Copyright: Project Syndicate, 2019.
www.project-syndicate.org

Марк Еспозито, Теренс Це, Джошуа Энтсмингер и and Орели Жан
Оставить комментарий

Smart

Что творится с нашим интернетом? Что творится с нашим интернетом?
Редакция Exclusive
|16.04.2019 - 11:45|
Компании все чаще теряют свои данные Компании все чаще теряют свои данные
Редакция Exclusive
|28.03.2019 - 16:14
«Казактелеком» планирует запустить в стране 5G «Казактелеком» планирует запустить в стране 5G
Редакция Exclusive
|14.02.2019 - 15:42|
Казахтелеком может поглотить всех операторов Казахтелеком может поглотить всех операторов
Аскар Муминов
|27.12.2018 - 14:41
Абоненты голосуют за Beeline Абоненты голосуют за Beeline
Редакция Exclusive
|28.11.2018 - 15:54|
Искусственный интеллект вместо свободы слова Искусственный интеллект вместо свободы слова
Ботагоз Сейдахметова
|21.11.2018 - 10:10
Человеческий фактор еще востребован Человеческий фактор еще востребован
Редакция Exclusive
|20.11.2018 - 08:00
Наука для детей и взрослых Наука для детей и взрослых
Редакция Exclusive
|07.11.2018 - 12:08|1|
Чаще всего абоненты заходят на потребительские сайты Чаще всего абоненты заходят на потребительские сайты
Редакция Exclusive
|22.10.2018 - 10:22
Искусственный интеллект: предостережение Древней Греции Искусственный интеллект: предостережение Древней Греции
Редакция Exclusive
|19.10.2018 - 08:40
Помогут или навредят нам новые технологии? Помогут или навредят нам новые технологии?
Редакция Exclusive
|11.10.2018 - 12:30
Бренды предпочитают рекламировать свои продукты посредством новых медиа Бренды предпочитают рекламировать свои продукты посредством новых медиа
Редакция Exclusive
|22.09.2018 - 10:36|
Новая индустрия будет прибыльной только при грамотном регулировании Новая индустрия будет прибыльной только при грамотном регулировании
Аскар Муминов
|19.09.2018 - 13:58
Главный стартап-конкурс в Алматы  Главный стартап-конкурс в Алматы 
Редакция Exclusive
|11.09.2018 - 12:13
Офлайн и мифы об анонимности в социальных сетях Офлайн и мифы об анонимности в социальных сетях
Редакция Exclusive
|24.08.2018 - 12:57
Зачем казахстанцы подключаются к MyWiFi  на борту самолетов? Зачем казахстанцы подключаются к MyWiFi на борту самолетов?
Редакция Exclusive
|24.08.2018 - 10:19|
Аренда авто: роскошь или сервис будущего? Аренда авто: роскошь или сервис будущего?
Редакция Exclusive
|23.08.2018 - 10:12
Поколение Z ведет и побеждает Поколение Z ведет и побеждает
Ботагоз Сейдахметова
|18.08.2018 - 10:11
Они не знали, что так нельзя… Они не знали, что так нельзя…
Редакция Exclusive
|16.08.2018 - 16:00|
Как смартфон может заменить профессиональный фотоаппарат Как смартфон может заменить профессиональный фотоаппарат
Редакция Exclusive
|16.08.2018 - 15:31|
«Экосистема Kaspi»: история трансформации «Экосистема Kaspi»: история трансформации
Редакция Exclusive
|07.08.2018 - 10:33|
Ведущие аналитики Kaspi провели обучение для студентов Yessenov Data Lab Ведущие аналитики Kaspi провели обучение для студентов Yessenov Data Lab
Редакция Exclusive
|06.08.2018 - 16:24|
Технологии копирования продолжаются Технологии копирования продолжаются
Редакция Exclusive
|01.08.2018 - 12:05
Что за ягода Arbuz.kz? Что за ягода Arbuz.kz?
Парыз Байтенов
|19.07.2018 - 09:13
Dell создает продукцию из пластиковых отходов Dell создает продукцию из пластиковых отходов
Редакция Exclusive
|04.07.2018 - 15:59
Подслушивают ли нас телефоны? Подслушивают ли нас телефоны?
Раушан Найзабаева
|04.07.2018 - 14:30
Сотни разработчиков просматривают вашу Gmail почту Сотни разработчиков просматривают вашу Gmail почту
Раушан Найзабаева
|04.07.2018 - 09:03
IT рынок Казахстана притворяется уникальным IT рынок Казахстана притворяется уникальным
Раушан Найзабаева
|29.06.2018 - 17:24|
Будет ли Google платить казахстанцам за использование их данных? Будет ли Google платить казахстанцам за использование их данных?
Раушан Найзабаева
|29.06.2018 - 15:24
Apple VS  Samsung семилетняя “битва титанов” завершилась Apple VS Samsung семилетняя “битва титанов” завершилась
Раушан Найзабаева
|28.06.2018 - 16:24
Мультибрендовые разработки растут Мультибрендовые разработки растут
Редакция Exclusive
|28.06.2018 - 13:33
Цифровизация в Казахстане: фальстарт Цифровизация в Казахстане: фальстарт
Редакция Exclusive
|20.06.2018 - 14:35|
Вторая волна стартапов Вторая волна стартапов
Редакция Exclusive
|18.06.2018 - 15:47
Казахстанцы выбирают отечественную эстраду и саморазвитие Казахстанцы выбирают отечественную эстраду и саморазвитие
Редакция Exclusive
|01.06.2018 - 13:01
Страницы:1 2 3 4 5 6 ... 33