Интересности
 4.6K
 6 мин.

Мы недостаточно умны, чтобы уличить в обмане ИИ

Боты все активнее осваивают сферы, которые традиционно считаются человеческими. Одни помогают готовить тофу, другие могут написать за нас конспект доклада, составить рабочий график или сгенерировать по запросу картинку в нужном стиле. Например, Stable Deffusion сделал обложку этой статьи. Казалось бы, одни плюсы. Но, возможно, тут есть подвох, который мы не замечаем, считает Бен Стенсил, главный аналитик и сооснователь IT-компании Mode. В своем блоге он поделился опасениями по поводу неочевидных рисков, которые становятся все более реальными по мере расширения доступа к ресурсам ИИ. Вот его основные тезисы. Компания OpenAI выпустила ChatGPT. Этот чат-бот не только отлично имитирует естественную речь, переводит, сочиняет истории и стихи, составляет рецепты, пишет код и рассказывает анекдоты. Натренированный на триллионах слов, он может убедительно обосновать (почти) любой заранее заданный тезис, выстроив формально безупречную цепочку доказательств. Причем сами тезисы могут быть взаимоисключающими. Например, вы берете факт — трагические события в Лас-Вегасе в 2017 году, когда преступник застрелил из окна гостиницы более 20 посетителей фестиваля кантри-музыки. И задаете тезис — стрельба была организована ФБР. Через пару мгновений бот выдаст вам готовую конспирологическую теорию. И тут же навскидку может создать другую: что массовое убийство задумал тренер баскетбольной команды университета Дьюка. Это возможно потому, что доказательства не имеют никакого отношения к реальности, даже если для их компиляции используются факты. Чат-бот задействует стратегию, к которой обычно прибегают пропагандисты и распространители псевдонаучных идей: подбирает факты, соответствующие запросу, и использует для их связывания ложные корреляции. Например, уровень потребления сыра на душу населения в США на протяжении девяти лет наблюдений почти на 95% совпадал с числом граждан, которые умерли, запутавшись в простынях. Два факта, из которых можно соорудить зловещую историю. Как пишет в твиттере венчурный инвестор Сара Гуо, таким образом можно тиражировать бесконечное множество по сути ложных, но по форме реалистичных нарративов. Готовы ли мы к такой инновации? Представьте, что вы венчурный инвестор, который вкладывается в стартапы на ранней стадии развития, когда в штате компании всего несколько сотрудников, а в портфолио — лишь прототипы продуктов и желание сделать мир лучше. За неимением показателей доходности и отзывов клиентов, которыми можно было бы руководствоваться в принятии решения, вы делаете ставку на «нарративы»: есть ли у компании уникальная идея, способны ли фаундеры ее реализовать и просматривается ли на рынке ниша для их продукта? До вас дошли слухи, что фаундеры уже обращались с предложениями к другим потенциальным инвесторам и не смогли получить необходимое финансирование. Выглядит подозрительно. Но вы по дружбе или просто из любопытства принимаете приглашение. Сам проект не производит на вас особого впечатления. Но нарратив, который транслирует компания, демонстрируя свой потенциал, кажется убедительным. Это гениальные ребята, думаете вы, они взяли плохую идею и превратили ее в хорошую. Вы почти готовы вложиться. Но один вопрос не дает вам покоя: почему другие инвесторы этого не почувствовали. На следующий день тайна раскрывается. Оказывается, компания переформатировала презентацию. Сам продукт, который они представляют, остался неизменным. Но объяснение того, почему продукт станет успешным, какую нишу на рынке он займет, как они смогут привлечь потребителей — все это изменилось по сравнению с первой презентацией. Ваша первая мысль: наверное, они пригласили консультантом какого-то маститого эксперта, который предложил им этот стратегический разворот. Тем лучше, думаете вы. Значит, они учатся, совершенствуют подход. Но затем раскрывается еще один секрет. Новую концепцию разработал не эксперт и вообще не человек, а искусственный интеллект. Столкнувшись с проблемами, фаундеры просто открыли чат-бот и попросили его придумать презентацию стартапа из десяти пунктов, включая рыночные перспективы продукта и стратегию роста бизнеса. Иными словами, новая концепция возникла на пустом месте. Это не итог маркетинговых исследований, долгих размышлений или глубокого погружения в тему. Нет. Ее просто сгенерировал компьютерный алгоритм в ответ на запрос пользователя. Вы все еще хотите инвестировать? Анализируя чей-то нарратив, будь то бизнес-план, презентация для инвесторов или программная статья политика, мы исходим из того, что способны мыслить рационально и судить непредвзято. Но так ли это? Еще в 1970-е исследователи из Стэнфорда обнаружили, что одного наличия правдоподобных аргументов в пользу какого-то вывода достаточно, чтобы люди поверили в его правильность, даже если им прямо скажут, что эти аргументы сфабрикованы. Конечно, мы можем обнаружить явно ложные корреляции. Но даже в этом случае нам сложно оценить достоверность всего нарратива, если он выглядит внутренне логично. Тем более что во многих ситуациях, как верно отметил писатель Рэнди Ау, «есть несколько разных трактовок, которые в одинаковой степени согласуются с данными, и нет возможности определить, какая из них верна». Так что обычно при оценке весомости аргумента мы далеки от рациональности и непредвзятости. На самом деле мы полагаемся на другие критерии: насколько доводы соответствуют нашим убеждениям, как мы относимся к спикеру, импонирует ли нам его манера подачи информации и, не в последнюю очередь, сколько других людей с ним соглашается. Почему же тогда мы не попадаемся на крючок любого фейка? Потому что создать внутренне непротиворечивую альтернативную версию реальности сложно. Для убедительного обоснования одной лжи нужно найти и сложить в нужной конфигурации множество осколков правды. Это все равно что собрать один пазл из фрагментов другого. Создатели фейков часто недостаточно умны, чтобы сконструировать «по сути ложные, но по форме реалистичные нарративы». Если они люди. Другое дело — ИИ, способный за доли секунды сгенерировать внутренне непротиворечивое обоснование для чего угодно. А если ChatGPT начнет включать в свои выкладки еще статистику, инфографику и цитаты авторитетных экспертов, шансов не заблудиться в этом лабиринте кривых зеркал у нас почти не останется. Вот простейший пример. На рабочем совещании обсуждается спорный вопрос. Каждый сотрудник демонстрирует двухстраничное обоснование своей позиции с диаграммами и статистическими данными. Но есть нюанс: никто из участников дискуссии не писал обоснование сам, а просто сообщил боту, какой результат необходим, и получил от него отчет с цитатами, фактами и цифрами, объединенными в убедительный нарратив. Нетрудно представить, какую путаницу это внесет в процесс принятия решений. Пока что требуется редкое сочетание таланта и опыта, чтобы обосновать свою правоту или, говоря циничнее, правдоподобно исказить реальность в свою пользу. Но завтра у всех нас может быть доступ к алгоритму, который способен принять любую точку зрения и обосновать все, что мы захотим. Это уже не просто пропаганда или дезинформация, а подрыв базовых представлений о том, что реально, а что нет. Мы часто слышим, что ИИ может стать слишком умным. И кажется, упускаем из виду куда более серьезную проблему: мы сами недостаточно умны для ИИ. Автор: Сергей Панков, редактор журнала Reminder

Читайте также

 46K
Интересности

Безжалостный факт

В начале мультфильма "В поисках Немо" самку рыбы-клоуна и икру съедает барракуда, а будущий Немо остается единственной икринкой из кладки. Отец Марлин в одиночку растит Немо, пока того не вылавливают ныряльщики, после чего Марлин отправляется на поиски сына. В реальной жизни после утраты доминантной самки Марлин должен был бы превратиться в самку сам, а Немо, родившийся недифференцированным гермафродитом, стал бы самцом и принялся бы спариваться с отцом-самкой. Не менее интересный сюжет, не правда ли?

 30.3K
Искусство

Над этим стоит задуматься

"Парадоксом нашего времени является то, что мы имеем высокие строения, но низкую терпимость, широкие магистрали, но узкие взгляды. Тратим больше, но имеем меньше, покупаем больше, но радуемся меньше. Имеем большие дома, но меньшие семьи, лучшие удобства, но меньше времени. Имеем лучшее образование, но меньше разума, лучшие знания, но хуже оцениваем ситуацию, имеем больше экспертов, но и больше проблем, лучшую медицину, но хуже здоровье. Пьем слишком много, курим слишком много, тратим слишком безответственно, смеемся слишком мало, ездим слишком быстро, гневаемся слишком легко, спать ложимся слишком поздно, просыпаемся слишком усталыми, читаем слишком мало, слишком много смотрим телевидение и молимся слишком редко. Увеличили свои притязания, но сократили ценности. Говорим слишком много, любим слишком редко и ненавидим слишком часто. Знаем, как выжить, но не знаем, как жить. Добавляем года к человеческой жизни, но не добавляем жизни к годам. Достигли Луны и вернулись, но с трудом переходим улицу и знакомимся с новым соседом. Покоряем космические пространства, но не душевные. Делаем большие, но не лучшие дела. Очищаем воздух, но загрязняем душу. Подчинили себе атом, но не свои предрассудки. Пишем больше, но узнаем меньше. Планируем больше, но добиваемся меньшего. Научились спешить, но не ждать. Создаем новые компьютеры, которые хранят больше информации и извергают потоки копий, чем раньше, но общаемся все меньше. Это время быстрого питания и плохого пищеварения, больших людей и мелких душ,быстрой прибыли и трудных взаимоотношений. Время роста семейных доходов и роста числа разводов, красивых домов и разрушенных домашних очагов. Время коротких расстояний, одноразовых подгузников, разовой морали, связей на одну ночь; лишнего веса и таблеток, которые делают все: возбуждают нас, успокаивают нас, убивают наc. Время заполненных витрин и пустых складов. Время, когда технологии позволяют этому письму попасть к вам, в то же время позволяют вам поделиться им или просто нажать "Delete". Запомните, уделяйте больше времени тем, кого любите, потому что они с вами не навсегда... Запомните и горячо прижмите близкого человека к себе, потому что это единственное сокровище, которое можете отдать от сердца, и оно не стоит ни копейки... Запомните и говорите "люблю тебя" своим любимым, но сначала действительно это почувствуйте. Поцелуй и объятия могут поправить любую неприятность, когда идут от сердца... Запомните и держитесь за руки и цените моменты, когда вы вместе, потому что однажды этого человека не будет рядом с вами... Найдите время для любви, найдите время для общения и найдите время для возможности поделиться всем, что имеете сказать. Потому что " жизнь измеряется не числом вдохов-выдохов, а моментами, когда захватывает дух! " Джордж Карлин (американский сатирик, актер, писатель 70-80гг) написал эту статью после смерти своей жены.

 20.2K
Жизнь

Как работает женская логика?

Решила сделать простой салатик, порадовать семью. Салат с курицей. Тем более как раз осталось немного отварной курочки, все равно никто уже не ест. В салат этот нужны ананасы. Использовала фрукты из банки, а сок остался. Выпить? Не хочу... Вылить? Жалко. Вспомнила один рецепт пирога, там нужен сок ананасовый как раз. Сделала пирог. Но туда почему-то только желтки нужны были, а белки остались. Ну не выбрасывать же их?! Поставить в холодильник — все равно потом выброшу. Придумала! Можно сварганить безе. Легко, быстро, вкусно! В безе использовала цедру лимона. Лимон остался лысый... Если оставить его, засохнет быстро. Что же с лимоном-то сделать?! Ага, соус вкусный получается для салата. В салат ушла половинка луковицы. А вторая половина лежит, смотрит на меня. А ее куда? Можно для спагетти вкусный томатный соус приготовить. Нашла в холодильнике банку томатного сока собственного приготовления. Ушла половина. А с остатком что? Жалко, если пропадет. Сама же трудилась летом, закрывала. Натуральный, без консервантов, долго открытый храниться не будет. Подумала немного, решила сварить борщик. Но, увы, дома не оказалось свеклы. Быстренько собралась, выскочила в магазин. Купила свеклу, картошку, творог, сметану, зубную пасту, носки (по скидке), тапочки (тоже акция была), мыла несколько упаковок, на всякий случай. На обратной дороге зашла в банк, там оплатила коммуналку, возле банка заскочила в мастерскую, забрала туфли после ремонта, купила в хлебном киоске свежие булочки детям в школу для бутербродов. Еле добралась домой с этим всем. Приготовила борщ. Уже не обратила внимания, осталось ли что-нибудь. Упала в кресло, спина болит, ноги отваливаются, рук не чувствую... Думаю, вот ненормальная! Лучше бы я выпила тот ананасовый сок!

 18.6K
Жизнь

Почему так важно уходить вовремя?

Уходить — не значит бежать и сдаваться. Уйти — иногда значит просто изменить что-то в своей жизни, изменить то, что уже себя исчерпало. Как часто ты задерживался в гостях, не желая того, из боязни заметить обиду на лице радушных хозяев дома? Иногда нужно поддаваться своему искреннему порыву и решительно двигаться в направлении дверного проема. Несмотря на все твои страхи и навязанные обществом стереотипы, ничего плохого в переменах нет. Почему нужно расстаться вовремя? Меняя свое состояние, ты меняешься сам. Это значит, что у тебя есть шанс вернуться в эту ситуацию новым человеком и посмотреть на всё с вершины нового опыта. Конечно, когда дело касается прекращения отношений, всё происходящее становится трагедией… Но можно взглянуть на это и с другой стороны. Если ты пьешь с ворами, опасайся за свой кошелек. Когда рядом с тобой находятся люди, не способные оценить тебя, не стоит пытаться им что-то доказывать. Скорее всего, вы находитесь на разных ступеньках развития в данный момент, именно по этой причине нарушается взаимопонимание. Расстояние, финансовые проблемы, нежеланные дети и любые другие люди не могут стать причиной краха крепких и здоровых отношений, не строй иллюзий. Только отсутствие взаимопонимания портит всё. Цени и уважай не только себя, но и другого человека. У каждого есть свобода выбора, и ты не вправе решать что-то вместо него. Контакт, который возникает между людьми — очень хрупкая субстанция. Если стремиться поддерживать этот контакт вдвоем, можно прийти к гармонии. Но когда в эмоциональной и духовной близости заинтересован лишь один человек, ничего хорошего не получится. Людей в мире очень много, и каждый из нас — прекрасен и ужасен одновременно. Все делают ошибки, у всех свои недостатки. Иногда мы способны совершать чудовищные поступки, но это — всего лишь поступки, суть человека не меняется. Плохих людей не бывает в принципе. Бывают лишь осознающие эти элементарные истины и люди другого рода. Те, которым нужно еще чему-то поучиться и что-то понять. Дай человеку этот шанс: стать совершенным без твоего участия. Любовь побеждает смерть. Ты можешь любить мертвого человека много лет после его смерти, не так ли? Уход кого-то из твоей жизни совсем не значит, что ты должен его возненавидеть. Когда нет сил простить и нет сил наказать, немедленно вспомни что-то хорошее. У тебя остается очень много сокровищ на самом деле, кто бы тебя ни покинул: воспоминания, важные выводы, фотографии… Ты сможешь справиться с чем угодно, если будешь рассматривать это явление в позитивном ключе. Уходишь ты сам или же отпускаешь кого-то, всегда помни об этом. Ты сам выбираешь свою жизнь. Чтобы быть счастливым рядом с кем-то, нужно обязательно определиться с тем, чего ты хочешь, узнать себя получше. Возможно, ты занимал чужое место, потому что был незрелым и не знал, что делать. Ты был слаб и растерян. Тогда стоит оставить после себя пустоту и уйти навстречу новым возможностям. Поверь, если это — действительно твое место, ты еще вернешься сюда. А если нет — ничего страшного. Все мы взаимозаменяемы, как бы этот факт ни пугал. Природа хорошо позаботилась о механизмах сохранения вида, тут не поспоришь. Только сделай правильные выводы и постарайся не совершать больше глупостей, которые привели к нарушению взаимопонимания в этих отношениях. Мечты сбываются. Ты можешь ни во что не верить и отрицать позитивное устройство мира сколько угодно. Очень скоро у тебя появится шанс убедиться в том, что это на самом деле так. Будь добрее, будь искренним и решительным. То, о чем ты мечтаешь, — главный козырь, это направление, по которому ты будешь продолжать движение, растворяясь в новых пейзажах. Тебе интересно, куда приводят мечты? Тогда иди вперед без оглядки, шире шаг!

 15.3K
Жизнь

Главные фразы на английском для вежливых

I’m sorry, I didn’t catch you — Простите, я не расслышал вас. I beg your pardon — Прошу прощения. I’m sorry, I can’t — Простите, не могу. I’m glad to see you — Я так рад вас видеть. It’s very kind of you — Это так мило с вашей стороны. I’m so sorry — Мне так жаль. It does you credit — Это делает вам честь. Thank you anyway — В любом случае спасибо. Not at all — Да не за что. Thank you in advance — Спасибо заранее. Don’t mention it — Не стоит благодарности. May I help you? — Могу ли я вам помочь. You are welcome — Всегда пожалуйста. No problem/ that’s ok/don’t worry about it — Все в порядке, нет проблем. This way, please — Сюда, пожалуйста.

 9.5K
Интересности

Лучшие фокусы мира №1

Хотите немного уличной магии? Представляем Вашему вниманию трюки и фокусы Дарси Ока!

 7.2K
Интересности

Интересные факты о сибирских тайнах

Попавшие в подземный город казаки Ермака под селением Искер, что стояло на Иртыше, нашли много золота и других ценностей. Были там и захоронения умерших людей прямо в стенах подземных ходов. В одном гроте казаки наткнулись на капище с множеством идолов, вырезанных из дерева. Во взятом штурмом Искере не оказалось жителей, видимо, они ушли по подземному ходу, ведшему за реку. Ермак приказал ценности забрать, а туннель взорвать, что и было сделано казаками. Сведения об этом сохранили архивные записи 17 века. Хотя Ермак покорял Сибирь в 16 веке, летописцы на основании донесений казаков зафиксировали чудесное событие позже. На Алтае есть пещеры с большими гротами. Перед входом в один из них спелеологи обнаружили массивную каменную плиту с петроглифами. Отодвинув «дверь», люди вошли в грот. А на его потолке с удивлением увидели звездную карту неба. Ее подсвечивали солнечные лучи через пробитые отверстия снаружи. Кто создал подобный «планетарий» , неизвестно, только следующая попытка попасть в тот грот закончилась неудачей, спелеологи не могли больше найти его. Двигаясь дальше по Сибири к Тихому океану, можно попасть на Колыму, где тоже есть свои загадки. При строительстве одного лагеря для заключенных производились взрывные работы в далеком 1932 году. При них было осушено одно горное озеро. Вода из него ушла, на дне строители увидели чашу конусовидной формы вместо дна. Стенки ее были похожи на бетонные, а в них вмурованы странные образования, похожие на плети из металла. Определить, из какого, не удалось. Руководство приказало взорвать дно бывшего озера и засыпать его горной породой. Сибирь таит множество загадок. Один Тунгусский метеорит чего стоит. Уральская «белоглазая чудь», ушедшая под землю, гиперборейцы, жившие на севере Сибири, исчезновение мамонтов, таинственная Земля Санникова и многие другие тайны не разгаданы до сих пор.

 6.9K
Жизнь

Как говорил Эйнштейн

Всем известный ученый Альберт Эйнштейн был не только гениальным физиком, но и абсолютным авторитетом в вопросах философии. Ему принадлежит высказывание: «Я всегда думаю о том, что моя внутренняя и внешняя жизни основаны на работах и мыслях других людей, живых и умерших, и что я должен расширять себя, чтобы давать миру столько же, сколько я получил и продолжаю получать сейчас». Он был великолепно осведомлен о закономерностях успеха. Сформулированные им правила, как и уравнения, неподвластны времени, они до сих пор пользуются популярностью и работают в современном мире. 1. Тот, кто никогда не ошибается, ничего не делает Это действительно так. Только ошибки гарантируют новый опыт, приобретение знаний. Страх ошибиться порождает бездействие, и, соответственно, тормозит развитие. 2. Образование — это то, что остается после того, когда забываешь все, чему учили в школе Мы запоминаем только то, чему научились самостоятельно. 3. Воображение лучше знаний Знания ограничены, а воображению принадлежит весь мир. Все, что есть на нашей Земле, так или иначе, появилось благодаря их воображению. А наши потомки будут пожинать плоды нашего с вами воображения. 4. Секрет творческой деятельности заключается в умении скрывать источники вдохновения Ваши идеи всегда должны быть уникальными, даже несмотря на то что Вы вдохновляетесь великими гениями. Об это никто не должен знать. 5. Ценность человека заключается в том, чего он способен добиться Нужно стараться дать миру как можно больше, тогда будете получать в ответ. 6. Можно жить на этом свете так, как будто чудес не бывает или, наоборот, так как будто все в этом мире является чудом В первом случае ничто не будет мешать Вам делать то, что Вы хотите, а во-втором Вы будете наслаждаться каждым мельчайшим проявлением красоты жизни. Совместив два этих способа, Вы достигните полной гармонии с миром. 7. Дар воображения и фантазии значит больше, чем способность абстрактно мыслить Мечты — это прекрасный мотиватор для достижения любых целей. Не прекращайте мечтать и двигаться вперед. 8. Чтобы быть безупречным членом стада овец, надо, в первую очередь, быть овцой Если хотите быть успешным бизнесменом, для начала займитесь каким-нибудь бизнесом. 9. Сначала нужно выучить правила игры, а потом научиться играть лучше всех Гениально и просто. 10. Любопытство и умение задавать вопросы необходимы каждому человеку Не бойтесь выглядеть дураком, вопросы задают именно умные люди.

 4.8K
Наука

Учителя нобелевского лауреата смеялись над его желанием стать ученым

Сейчас Гёрдон любит вспоминать слова своей школьной учительницы. Когда ему было 15 лет, она заявила, что строить карьеру биолога с его стороны было бы «просто потерей времени», и от этой идеи стоит отказаться. Из отчета преподавателя биологии Гёрдона: «По-моему Гёрдон намерен стать ученым. В нынешнем свете это довольно смешно. Если он не может выучить даже простейший материал по биологии, у него нет никаких шансов выполнять работу специалиста. Это будет полнейшей потерей как его времени, так и времени тех, кто его будет учить». Успехи Гёрдона за семестр, по итогам которого и был написан отчет, преподаватель называет «далекими от удовлетворительных». По одному из тестов будущий ученый получил только 2 балла из 50 возможных. Учительница также жалуется, что Гёрдон «не слушает, что ему говорят, предпочитая выполнять задания на свой собственный манер». Сейчас этот отчет висит над столом у нобелевского лауреата, как он сам говорит, «смеха ради», пишет издание Guardian. Джону Гёрдон и его японский коллега Синье Яманаке получили Нобелевскую премию по медицине и физиологии за работы по перепрограммированию стволовых клеток.

Стаканчик

© 2015 — 2024 stakanchik.media

Использование материалов сайта разрешено только с предварительного письменного согласия правообладателей. Права на картинки и тексты принадлежат авторам. Сайт может содержать контент, не предназначенный для лиц младше 16 лет.

Приложение Стаканчик в App Store и Google Play

google playapp store