Место для рекламы

Майкрософт разогнала экспертов по этике ИИ, которые мешали повторить триумф другого ИИ

news/top/2023-03-14_microsoft_razognala_ekspertov 14 марта 2023

Microsoft упразднила комиссию по этике и обществу, которая курировала соблюдение компанией принципов ответственного использования искусственного интеллекта. В частности, в ее задачи входило выявление возможных проблем, которые могли бы возникнуть в будущем из-за внедрения ИИ. По некоторым данным, деятельность группы инженеров, дизайнеров и философов, негативно сказывалась на скорости вывода ИИ-продуктов компании на «разогретый» ChatGPT рынок. Под давлением высшего руководства Microsoft команда сперва была зачищена, а спустя полгода и вовсе ликвидирована.
Ликвидированная команда осуществляла контроль за соблюдением принципов ответственного подхода к использованию ИИ, сформулированных Microsoft, при разработке собственных программных продуктов на базе нейросетей.

Несколько лет назад команда подготовила специальную настольную ролевую игру под названием Judgement Call («Спорное решение»), которая призвана помочь разработчикам сформировать представление о том, какой вред потенциально способен нанести искусственный интеллект и учесть возможные негативные последствия в процессе создания конкретного продукта на его основе. В последствии игра была включена в состав «инструментария ответственных инноваций» (Responsible Innovation Toolkit), опубликованного командой.

Как отмечает The Verge, конфликт в Microsoft иллюстрирует противоречивое отношение технологических гигантов к созданным ими же самими подразделениям по вопросам этики и общества. С одной стороны, эксперты такого рода обладают навыками прогнозирования сценариев злонамеренного использования создаваемых компанией технологий, помогая разработчикам избавиться от «узких мест» в сервисах и ПО до их выхода на рынок. С другой, они способны и «тормозить» или вовсе блокировать вывод продуктов на рынок, обозначая риски, которые могут обернуться головной болью для юридического отдела компании в среднесрочной и долгосрочной перспективе.

Говорить о полном отказе Microsoft от принципов ответственного использовании ИИ не приходится.
Следует иметь в виду, что ликвидированная команда все же была не единственной структурой, занятой вопросами этичного ИИ. В строю, согласно официальному сайту Microsoft, остаются ORA (Office of Responsible AI), RAISE (Responsible AI Strategy in Engineering и Aether Committee. Первая, к примеру, сформулировала шесть основных принципов ответственного использования ИИ:
справедливость (fairness);
надежность и защита (reliability & safety);
конфиденциальность и безопасность (privacy & security);
доступность (inclusiveness);
прозрачность (transparency);
подотчетность (accountability).

Опубликовал    16 мар 2023
0 комментариев

Похожие цитаты

Владимир Познер: «Однополые браки – это просто замечательно»

Журналист Владимир Познер приветствует легализацию однополых браков во Франции. По его словам, это «прорыв в менталитете».

Выступая по радио «Эхо Москвы» 23 мая, Познер полемизировал с радиослушателем по имени Димон, который задал ему вопрос: «Владимир Владимирович, вам стыдно за Францию? Голубые победили?»
«Мне стыдно за вас, Димон, что у вас троглодитский совершенно взгляд на вещи», — ответил Владимир Познер. — «Я считаю, что если взрослые люди хотят жить вместе (я подчеркиваю, взрослые), то это их право».
«И я, наоборот, очень горжусь Францией, что, все-таки, они пошли на то, чтобы признать официальным однополые браки. Они — 14-я страна, которая принимает это. И я считаю, это просто замечательно, это прорыв в менталитете», — подчеркнул журналист.
«Вот эти гомофобы (видимо, вы к ним относитесь), ну, что же? Пещерное мышление, понимаете? Убивают людей за то, что они живут не так, как мы хотим. А, ведь, это ж не мешает. Никому не мешает. 2 взрослых мужика или 2 взрослые тети живут вместе. Кому от этого плохо?» — спросил он.

Опубликовал  пиктограмма мужчины- ЗАХАРЫЧ-  07 янв 2019

ЧТО Ж ТЫ ФРАЕР СДАЛ НАЗАД?

Кикабидзе своё слово не сдержал: тайно выступил в России за 40 000 евро. Вахтанг Константинович спел в питерском ресторане.
Минувшим летом Вахтангу Кикабидзе исполнилось 80 лет. Он по-прежнему живет в Тбилиси, иногда снимается в кино и довольно часто дает концерты. Уверяет, что везде, кроме России. «Я не могу к вам поехать, потому что не хочу врать, — не раз заявлял аксакал в интервью. — Мне неприятно петь там, где есть люди, которые мне неприятны. Меня сильно обидели, когда я отказался от орден…

Опубликовал  пиктограмма мужчины- ЗАХАРЫЧ-  06 дек 2018

Многие считают, что основной принцип жизни — «Выживает сильнейший». Но этот принцип не применим к человеческому обществу. Апогеем такого развития была греческая Спарта, где слабых детей сбрасывали со скалы. И где она сейчас? Выжили лишь те государства, в которых гармонично сочетались сила и разум. «Сильный защищает слабого, слабый учит сильного» — вот модель идеального общества.

© Фарос 274
Опубликовал  пиктограмма мужчиныФарос  27 мар 2012

Одновременно!

Отбирать по принципу личной преданности, а требовать как от профессионалов, очень хочется, но еще никому не удавалось!

Опубликовал  пиктограмма мужчиныАлексей Солдатов  30 мая 2020