Автор статьи — психолог Тех Лехтерман. Искусственный интеллект меняет наш мир, начиная с бизнеса и государственного управления и заканчивая повседневной жизнью. И, возможно, следующим этапом станет политика. Хотя идея о политиках, принимающих решения на основе искусственного интеллекта, может вызывать беспокойство у некоторых людей, результаты опросов свидетельствуют об обратном. Опрос, проведённый моим университетом в 2021 году, в период раннего расцвета достижений в области искусственного интеллекта, показал, что во многих странах и регионах общество в целом поддерживает внедрение ИИ в политику. Большинство европейцев высказали желание, чтобы хотя бы некоторые из их политиков были заменены искусственным интеллектом. Участники опроса из Китая были особенно оптимистичны в отношении возможности внедрения агентов ИИ в формирование государственной политики. В то же время американцы, обычно приветствующие инновации, проявили большую осторожность. Как философ, занимающийся изучением моральных и политических аспектов, связанных с ИИ, я могу выделить три основных пути его интеграции в политику. Каждый из этих путей предлагает как свои преимущества, так и потенциальные проблемы. Хотя некоторые из этих предложений кажутся более необычными, чем другие, при их анализе становится очевидным, что участие ИИ в политике заставит нас переосмыслить ценность человеческого участия в этом процессе и задуматься о самой природе демократии. Чат-боты в политике Ещё до того, как ChatGPT произвёл фурор в 2022 году, в нескольких странах уже предпринимали попытки заменить политиков чат-ботами. Например, в 2017 году в России была создана программа по имени Алиса, которая бросила вызов Владимиру Путину. В Новой Зеландии в то же время проходил эксперимент с кандидатом на пост президента в виде чат-бота по имени Сэм. Политические инициативы с участием чат-ботов также были опробованы в Дании и Японии. Хотя эти исследования носят экспериментальный характер, они отражают давний интерес к тому, какую роль ИИ может играть в управлении, учитывая различные культурные особенности. На определённом уровне становится очевидной привлекательность замены живых политиков чат-ботами. У чат-ботов отсутствуют многие проблемы и ограничения, которые обычно возникают в человеческой политике. Их нелегко соблазнить деньгами, властью или славой. Они не нуждаются в отдыхе, могут общаться практически со всеми одновременно и обладают энциклопедическими знаниями, а также сверхчеловеческими аналитическими способностями. Однако политики-чат-боты также обладают недостатками, свойственными современным системам ИИ. Эти чат-боты, основанные на больших языковых моделях, часто представляют собой «чёрные ящики», что затрудняет понимание их логики. Они могут давать неточные или сломанные ответы, известные как «галлюцинации». Кроме того, эти чат-боты сталкиваются с рисками кибербезопасности, требуют больших вычислительных ресурсов и постоянного доступа к сети. На их работу также могут влиять предвзятости, основанные на данных обучения, социальное неравенство и предположения программистов. Кроме того, чат-боты в роли политиков не соответствуют нашим ожиданиям от выборных должностных лиц. Наши институты были созданы для политиков, обладающих человеческим телом и моральной свободой. Мы верим, что политики должны не только отвечать на вопросы — они должны руководить командой, вести переговоры с коллегами, искренне заботиться о своих избирателях и нести ответственность за свои решения и действия. Без значительных улучшений в технологиях или более глубокого переосмысления самой политики перспективы использования чат-ботов в этой сфере остаются неясными. Прямая демократия на основе ИИ Ещё один подход предполагает полное устранение политиков, по крайней мере, в том виде, в каком мы их знаем. Сесар Идальго, физик, считает, что политики являются лишь ненужными посредниками, от которых наконец-то можно избавиться благодаря ИИ. Вместо того чтобы избирать политиков, Идальго предлагает, чтобы каждый гражданин мог создать своего собственного агента ИИ, отражающего его политические предпочтения. Эти агенты могли бы автоматически вести переговоры друг с другом, находя точки соприкосновения, разрешая разногласия и разрабатывая законодательство. Идальго надеется, что это предложение станет основой для развития прямой демократии. Оно позволит гражданам более активно участвовать в политической жизни, преодолевая традиционные барьеры, связанные с необходимостью иметь большой опыт и время в законодательных органах. Это предложение особенно актуально в свете растущего недовольства традиционными представительными институтами. Однако отказаться от представительства может быть сложнее, чем кажется. В «демократии аватаров», предложенной Идальго, фактическими правителями стали бы эксперты, разрабатывающие алгоритмы. Поскольку единственным способом легитимно утвердить их власть, вероятно, будет голосование, мы могли бы просто заменить одну форму представительства другой. Призрак алгократии Существует ещё более радикальная идея — полностью исключить людей из политики. Логика здесь проста: если технологии ИИ достигнут такого уровня, что смогут принимать решения, которые будут достоверно лучше, чем решения людей, то какой смысл в участии человека? Алгократия — это политический режим, в котором власть принадлежит алгоритмам. Хотя мало кто открыто призывает к полной передаче политической власти машинам (и технологии для этого пока не готовы), сам факт существования алгократии заставляет нас задуматься о том, почему участие человека в политике так важно. Какие ценности, такие как свобода, ответственность и рациональность, мы должны сохранить в эпоху автоматизации и как это сделать? Путь вперед Сегодня, в эпоху стремительного развития ИИ, мы сталкиваемся с важным вызовом: необходимость прояснить наши политические ценности. Вместо того чтобы слепо следовать за модой и стремиться заменить политиков людьми с ИИ, мы можем сосредоточиться на инструментах, которые помогут улучшить наши политические суждения и преодолеть недостатки демократии. Такие инструменты, как машина Хабермаса, ИИ, выступающий в роли посредника в дебатах, уже продемонстрировали свою эффективность. Они успешно помогли экспериментальным группам достичь согласия при голосовании по сложным и спорным вопросам. Нам необходимы и другие подобные инновации. На мой взгляд, будущее ИИ в политике не в том, чтобы массово заменить людей, принимающих решения, а в том, чтобы стать неотъемлемой частью, которая будет расширять возможности человека и укреплять демократические институты. Если мы хотим именно такого будущего, то должны целенаправленно двигаться к нему. По материалам статьи «Could AI replace politicians? A philosopher maps out three possible futures» The Conversation