Мнения: Как ограничить могущество искусственного интеллекта

Зампред Совета безопасности Дмитрий Медведев предложил запретить некоторые формы искусственного интеллекта (ИИ). Для этого необходимо определить позицию по этическим вопросам в области применения ИИ и проработать вопрос контроля за разработками. Пр...
Зампред Совета безопасности Дмитрий Медведев предложил запретить некоторые формы искусственного интеллекта (ИИ). Для этого необходимо определить позицию по этическим вопросам в области применения ИИ и проработать вопрос контроля за разработками. При этом Медведев отметил, что нельзя «перегнуть палку», запретив перспективные технологии, важные с точки зрения будущего России.

Зампред Совета безопасности Дмитрий Медведев предложил запретить некоторые формы искусственного интеллекта (ИИ). Для этого необходимо определить позицию по этическим вопросам в области применения ИИ и проработать вопрос контроля за разработками. При этом Медведев отметил, что нельзя «перегнуть палку», запретив перспективные технологии, важные с точки зрения будущего России.

Дискуссия об искусственном интеллекте заметно оживилась в последние полгода - год, причем не только в России. В декабре прошлого года президент Путин, выступая на международной онлайн-конференции Artificial Intelligence Journey заявил, что искусственный интеллект – залог технологического рывка для всего человечества. Технологии и цифровизация были одной из главных тем на Петербургском международном экономическом форуме, они же вскоре будут обсуждаться на встрече «Большой семерки» в британском Корнуолле.

В конце мая дискуссию о пределах распространения ИИ взорвала новость о том, что военный дрон впервые убил человека. В применении дронов на войне уже нет ничего необычного, но исключительность данного случая состоит в том, что решение об убийстве принималось самим дроном. Эпизод произошел еще в марте 2020 года, но известно об этом стало только сейчас благодаря исследованию ООН, на которое ссылается журнал New Scientist.

Пандемия коронавируса стимулировала спрос на технологии, непосредственно вторгающиеся в жизнь человека – распознавание лиц, дистанционное считывание параметров функционирования человеческого тела и т.п. Контроль над только зарождающейся индустрией содержит в себе очевидное противоречие: этические ограничения против конкурентных преимуществ. Этические нормы должны лечь в основу законов, ограничивающих разработку и применение отдельных форм ИИ. Но и слишком строгие законы, а также законы, предполагающие слишком широкое трактование, могут поставить крест на перспективных разработках.

Первой к регулированию ИИ подступилась Европа. В конце апреля текущего года Еврокомиссия вынесла на обсуждение правила, которые должны лечь в основу законодательного регулирования ИИ. Речь идет о риск-ориентированном подходе, имеющем четыре градации: неприемлемый риск, высокий, ограниченный, минимальный. Интересно, что высокий риск присвоен таким сферам, как кредитный скоринг, автоматизированная оценка тестов в сфере образования, программное обеспечение для найма сотрудников, роботизированная хирургия, а также использование алгоритмов ИИ в сферах юриспруденции и охране правопорядка. А ведь это именно те сферы, которых ИИ сейчас развивается ускоренными темпами.

Кроме того, Еврокомиссия предложила запретить использовать распознавание лиц в общественных местах за исключением особых случаев как, например, поиск преступников, пропавших детей или предотвращение терактов.

В Москве, например, распознавание лиц во время пандемии стало тотальным. Подключенные к общей системе камеры установлены не только на улицах и в транспорте, но и в подъездах и даже лифтах жилых домов. Иными словами, технология уже существует и широко распространена. Ограничение ее использования назрело, но здесь возникает вопрос о ее окупаемости. Допустима ли коммерческая составляющая в реализации дорогостоящих проектов идентификации личности? Большой вопрос.

Сложно предсказать, каким путем двинется Россия в регулировании ИИ. Вероятно, первые шишки на этом пути набьет не наша страна, а именно Европа. Но чем чаще общество будет сталкиваться с негативными проявлениями ИИ (привет штрафам за несоблюдение самоизоляции), тем выше будет запрос на регулирование. Убийство дроном человека – предельный вариант недопустимого. Однако же существуют и более тонкие сферы. Например, где находятся пределы автоматизации, которые лишают человека работы? Ответ на этот важнейший вопрос является одним из стержневых элементов образа будущего России и всего мира.

Очевидный ответ – замена человека машиной на рутинных процессах перестает быть очевидным, поскольку влечет за собой перенастройку образования. Если промышленная революция сформулировала спрос на массовое базовое образование, то автоматизация и искусственный интеллект потребуют от человека совершено иных знаний и навыков, которые позволят ему быть и чувствовать себя занятым и нужным. Или их полного отсутствия. Зачем учиться и делать карьеру, если все за тебя делают машины?

Альтернатива – уход значительной части людей в виртуальный мир – при помощи того же ИИ и технологий дополненной реальности. Что, конечно, недопустимо. Это как раз та сфера, где должны быть проложены «красные линии».

Искусственный интеллект, таким образом, может быть инструментом конкуренции людей, корпораций и целых стран. Но не должен становиться инструментом еще большего расслоения общества – причем расслоения не только по объему доступных благ, но и качества жизни в самом широком смысле этого слова. В этом, пожалуй, главный критерий, которым должны руководствовать регуляторы ИИ в новом дивном мире.

Теги:  искусственный интеллект

Понравилась статья? Поделиться с друзьями:
Добавить комментарий

;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!:

Этот сайт использует Akismet для борьбы со спамом. Узнайте, как обрабатываются ваши данные комментариев.