Папа Римский Франциск выступил на саммите G7

Глава Ватикана призвал лидеров Великобритании, Германии, Италии, Канады, Франции, Японии и США поставить под жёсткий контроль использование искусственного интеллекта…

Бог даровал людям Своего Духа, чтобы они трудились «с мудростью, разумением, ведением и всяким искусством», и наука и техника — это необычайное порождение творческого потенциала человека: с этой мысли папа Франциск начал свое обращение к участникам саммита G7, одна из главных тем которого — искусственный интеллект, сообщает портал VaticanNews.

ИИ — это «чрезвычайно мощный инструмент», отметил папа: сфера его применения охватывает медицину, культуру, коммуникацию, образование и политику. Несомненно, развитие искусственного интеллекта содействует «созданию новой общественной системы, охарактеризованной сложными эпохальными преобразованиями». Например, использование ИИ может расширить доступ к знаниям, способствовать быстрому развитию науки, делегировать машинам тяжелые работы; с другой стороны, ИИ может усугубить неравенство между развитыми и развивающимися странами, между господствующими и угнетаемыми социальными группами. Искусственный интеллект — это «привлекательный и в то же время устрашающий инструмент», не всегда обращенный к благу.

«Мы обречём человечество на безнадёжное будущее, если отнимем у людей способность решать за себя и за свою жизнь, обречём его на зависимость от решений машины. Мы нуждаемся в гарантии и защите пространства значительного человеческого контроля за процессом выбора программ ИИ: от этого зависит сама участь человеческого достоинства».

Папа упомянул о применении ИИ в вооруженных конфликтах, в особенности об «автономных смертоносных системах», использование которых должно быть полностью запрещено.

Глава Ватикана отметил, что программы ИИ развиваются таким образом, что они всё больше могут взаимодействовать с человеком, вести с ним беседу и устанавливать некие отношения. Однако нельзя забывать, что ИИ — это не человек, и большой ошибкой было бы искать в нём «компаньона». Папа предостерег от так называемого «генеративного ИИ, который, по сути, вовсе не „генерирует“ ничего нового, но „упаковывает“ в запрашиваемой форме имеющуюся у него информацию».

«Генеративный ИИ» не разрабатывает новых концепций или новых анализов. Чем больше у него в распоряжении повторяющихся определений и гипотез, тем больше он считает их законными и допустимыми: «Это не столько „генеративный“, сколько „закрепляющий“ ИИ, в том смысле, что он переформировывает уже существующий контент, помогая ему закрепиться, нередко без какого-либо контроля ошибок и предвзятости».

Таким образом есть риск не только узаконить любые фейковые новости, но и упрочить преобладание господствующей культуры, угрожая самому процессу становления человека.

Папа подчеркнул, что в эпоху, когда концепция человеческой личности ослабевает, одной из наиболее уязвимых сторон ИИ является «слабый этос», связанный с восприятием ценности и достоинства человека. Системы искусственного интеллекта должны быть наделены этикой, — в последних документах Св. Престола она получила название «алгорэтики».

В конце своей речи папа Франциск поделился мыслями о важности «здравой политики» для того, чтобы с надеждой и доверием смотреть в будущее, и констатировал, что «структурные недостатки» нельзя исправить «заплатками или поспешными, разовыми решениями»: в некоторых вещах следует «менять основные настройки», подчеркнул Франциск.

Русская линия