Комиссия ООН перечислила актуальные возможности и риски ИИ в предварительном докладе

МАНИЛА, Филиппины – Независимая международная научная группа ООН по искусственному интеллекту опубликовала первый в своём роде предварительный доклад, оценивающий наиболее актуальные возможности, риски и последствия ИИ.

Группа, состоящая из 40 членов и сопредседателями которой являются Йошуа Бенджио из Канады и Мария Ресса с Филиппин, стремится «представить сбалансированный анализ» рисков и возможностей ИИ, а также обеспечить политиков общей базой знаний и доказательств, необходимых для эффективного и своевременного реагирования.

«Технология носит преобразующий характер, но если мир продолжит двигаться по этой траектории, человечество не сможет реализовать обещанные ею преимущества. Риски — для обществ, для безопасности и для нашего вида — слишком высоки, а силы, движущие ИИ вперёд, не являются теми силами, которые обеспечат его пользу», — заявила Ресса.

«Возможности ИИ опережают как научное понимание, так и способность правительств адаптироваться. При наличии всё большего числа свидетельств обманчивого поведения ИИ наука в настоящее время не может гарантировать, что по мере роста возможностей ИИ не причинит катастрофического вреда — ни самостоятельно, ни в результате действий злоумышленников. Для эффективных действий мировые политики должны понимать эти системы. Именно это и обеспечивает данная группа: строгую, общую научную основу для определения нашего коллективного пути вперёд», — добавил Бенджио.

В резюме доклада группа написала: «При вдумчивом развёртывании и применении ИИ может поддержать прогресс в достижении Целей устойчивого развития, продвинуть медицинскую науку и расширить доступ к образованию».

«В то же время стремительные темпы технологического развития и широта потенциальных применений ставят перед политиками серьёзные задачи. Быстрое, бесконтрольное масштабное внедрение технологии также сопряжено со значительными рисками, включая вред для психического здоровья пользователей, потенциальное использование в качестве разрушительного инструмента, воздействие на социальные, экономические и экологические системы, а также проблемы, связанные с управлением технологией», — добавила группа.

Значимость группы

Группа определяет системы ИИ как «машинные системы, которые в широком смысле воспринимают, обучаются и действуют. Они выводят из входных данных способы генерации выходных данных, таких как прогнозы, контент, рекомендации, действия или решения, с различной степенью автономии и адаптивности».

Группа заявила, что её анализ занимает особое положение по трём причинам.

Во-первых, он исходит из предпосылки, что ООН является главным глобальным форумом по трансграничным рискам глобального масштаба.

Во-вторых, группа является механизмом ООН с мандатом на научную оценку состояния, рисков и возможностей ИИ.

Наконец, группа заявляет, что имеет научный, а не политический мандат: «документировать научные свидетельства, консенсус и разногласия, а также определять, какие пробелы в знаниях остаются неотложными для устранения». Обеспечивая правительства и институты доказательной базой, необходимой им для действий с течением времени, рекомендации группы остаются политически значимыми, но не предписывающими политику.

«Этот научный характер должен сделать её выводы сопоставимыми в разных регионах и устойчивыми к политическим циклам», — добавила группа.

Что видит группа и какие пробелы существуют

Второй раздел доклада посвящён тому, что свидетельства показывают в отношении ИИ, и группа сформулировала следующие утверждения, касающиеся ИИ, подкреплённые примерами и дополнительными комментариями:

• Возможности искусственного интеллекта развиваются быстрее, чем способность их измерять или регулировать
• Лишь небольшое число участников обучило передовые модели искусственного интеллекта
• Входные данные и результаты искусственного интеллекта географически и лингвистически неравномерны
• Разрыв в области искусственного интеллекта касается не только доступа, но и способности влиять на развитие искусственного интеллекта
• Чтобы искусственный интеллект был полезен, он должен быть поддержан благоприятной средой
• Агентный искусственный интеллект представляет собой качественный сдвиг в управлении (с точки зрения возможностей и рисков)
• Искусственный интеллект может разрушить общую реальность
• Искусственный интеллект трансформирует права человека, включая права детей

Третий раздел, в свою очередь, перечисляет потенциальные возможности и риски в различных областях знаний.

В целом группа отметила, что ИИ «перешёл от пассивного распознавания образов к активному рассуждению и автономным действиям. Область стремительно развивается от нынешних моделей рассуждения к оркестрированным агентным сетям и, в конечном счёте, к самосовершенствующимся системам».

Группа добавила, что доступ к ИИ не создаёт автоматически выгоды. Вместо этого, по её словам, «специально созданный, задачно-ориентированный ИИ обеспечивает измеримые, подкреплённые доказательствами достижения в науке, здравоохранении, образовании и сельском хозяйстве. Эти достижения реальны, но условны: они зависят от локальной контекстуализации, надлежащей инфраструктуры и готовности людей».

Кроме того, ИИ может использоваться в позитивных целях, однако выгоды от его применения не являются автоматическими. С точки зрения экономической выгоды группа заявила, что «выгоды от повышения производительности требуют дополнительных инвестиций в навыки, данные и организационную перестройку».

Она добавила: «Ключевой нерешённый вопрос носит распределительный характер: кто получает излишек и что происходит с трудом, с развивающимися экономиками и с регуляторными рамками, созданными для другой эпохи в различных отраслях?»

С точки зрения глобальной безопасности группа также отметила, что «ИИ может обеспечивать вредоносные операции, становиться объектом атак и усиливать существующие угрозы». Это включает угрозы кибербезопасности, однако группа также отметила, что экологические последствия «значительно возрастают».

Группа также заявила, что ИИ «трансформирует права человека, демократию и информационную экосистему посредством системных изменений, которые создают как значительные возможности, так и структурные риски для информационной целостности и гражданского участия». Если эти риски не будут устранены, группа заявила, что способность общества извлекать выгоду из ИИ будет подорвана.

Она добавила, что, к сожалению, уже существуют свидетельства того, что институты используют возможности ИИ в качестве катализатора или угрозы правам человека, таким как свобода выражения мнений, доступ к информации, правосудие, здоровье и развитие, а также другие права человека.

Третий раздел завершается констатацией того, что политики оказались перед дилеммой доказательств: они могут либо принимать решения о том, как следует регулировать ИИ, при недостаточном научном обосновании сейчас, либо ждать доказательств, которые могут поступить слишком поздно для какого-либо значимого вмешательства.

Между тем четвёртый раздел доклада обозначил научные пробелы — области, где доказательная база по определённым аспектам ИИ остаётся неравномерной или недостаточной, что привело группу к выводу о невозможности пока делать уверенные научные заключения в этих отношениях.

К ним относятся неубедительные свидетельства, касающиеся макроэкономических и производительных эффектов от внедрения ИИ, экологических аспектов внедрения ИИ, глобальной цепочки поставок ИИ и последствий на индивидуальном и коллективном уровне, среди прочих пробелов.

Группа добавила, что предварительный доклад не охватывал военные применения ИИ и летальные автономные системы вооружений.

Полная копия доклада вместе с резюме доступна на этой странице. – Rappler.com