Психология
 1.2K
 4 мин.

Этика использования ИИ в психологической помощи

Автор статьи — А.Т. Кингсмит, преподаватель кафедры свободных искусств и наук Университета OCAD. В мире, где технологии все больше проникают в нашу жизнь, эмоциональные ИИ используют передовые вычисления и машинное обучение, чтобы оценивать, моделировать и взаимодействовать с эмоциональными состояниями человека. По мере того как системы эмоционального ИИ становятся все более искусными в распознавании и понимании эмоций в реальном времени, их потенциальное применение в области психического здоровья становится все более разнообразным. Некоторые примеры использования ИИ включают инструменты скрининга в учреждениях первичной медицинской помощи, расширенные сеансы телетерапии и чат-боты, предлагающие доступную эмоциональную поддержку круглосуточно. Все это может стать мостом для тех, кто нуждается в профессиональной помощи, и тех, кто не решается обратиться к традиционной терапии. Однако переход к использованию эмоциональных ИИ также сопряжен с рядом этических, социальных и нормативных проблем, связанных с согласием, прозрачностью, ответственностью и безопасностью данных. Мое исследование направлено на изучение потенциала и проблем, связанных с использованием ИИ для распознавания эмоций в контексте продолжающегося кризиса психического здоровья после пандемии COVID-19. Когда эмоциональный ИИ используется для оказания психиатрической помощи или обеспечения дружеского общения, он может создать поверхностное подобие эмпатии, которому не хватает глубины и подлинности человеческих связей. Более того, вопросы точности и предвзятости могут сгладить и чрезмерно упростить эмоциональное разнообразие разных культур, укрепить стереотипы и потенциально нанести вред маргинализированным группам. Это особенно важно в терапевтической среде, где понимание всего спектра эмоционального опыта человека является решающим для эффективного лечения. Эра эмоционального ИИ По прогнозам, к 2032 году объем мирового рынка эмоционального ИИ составит 13,8 млрд долларов США. Этот рост обусловлен расширением сферы применения эмоционального ИИ в различных отраслях — от здравоохранения и образования до транспорта. Достижения в области машинного обучения и обработки естественного языка позволяют более тщательно анализировать эмоциональные сигналы людей с помощью мимики, тона голоса и текстовых данных. С момента своего выпуска в начале 2023 года, генеративно-индивидуальный чат-бот ChatGPT-4 от компании OpenAI демонстрирует человекоподобные реакции в широком спектре тем и задач. Недавнее исследование показало, что по показателю эмоциональной осведомленности — способности идентифицировать и точно описывать эмоции — ChatGPT постоянно получает более высокие баллы, чем среднестатистический человек. В то время как OpenAI доминирует на североамериканском и европейском рынках, чат-бот Xiaoice от Microsoft более популярен в Азиатско-Тихоокеанском регионе. Запущенный в 2014 году как «социальный чат-бот», нацеленный на установление эмоциональных связей с пользователями, Xiaoice способен к устойчивому эмпатическому взаимодействию, запоминанию прошлых взаимодействий и персонализации разговоров. В ближайшие годы, сочетание продуктивности и эмоциональной связи изменит систему охраны психического здоровья и переосмыслит взаимодействие с искусственным интеллектом на эмоциональном уровне. Риски будущего Стремительное развитие эмоционального ИИ поднимает глубокие этические и философские вопросы о природе эмпатии и эмоционального интеллекта в машинах. В книге «Атлас ИИ» исследователь ИИ Кейт Кроуфорд ставит под сомнение точность систем, утверждающих, что они считывают человеческие эмоции по цифровым сигналам. Она высказывает опасения по поводу процесса упрощения и деконтекстуализации человеческих эмоций. Ученый в области цифровых технологий Эндрю Макстей исследует последствия приписывания эмпатии системам «эмоция-интерфейс». В книге «Automating Empathy» Макстей предупреждает о «синтетической эмпатии», подчеркивая ключевое различие между симуляцией распознавания человеческих эмоций и настоящим сопереживанием. Кроме того, способность эмоциональных ИИ анализировать эмоциональные состояния открывает возможности для слежки, эксплуатации и манипулирования. Это поднимает вопросы о границах вмешательства машин в личную и эмоциональную сферу. Переосмысление отношений между человеком и ИИ Широкое применение искусственного интеллекта в терапии, консультировании и эмоциональной поддержке может революционизировать доступ к медицинской помощи и облегчить нагрузку на перегруженных работой специалистов-практиков. Однако, персонификация эмоций и ИИ создает парадокс, когда очеловечивание ИИ может привести к дегуманизации самих людей. В то же время, приписывая ИИ человеческие качества, мы рискуем сделать психиатрическую помощь менее интерперсональной. Возможность того, что чат-боты с ИИ неправильно истолкуют культурные и индивидуальные эмоциональные проявления, может привести к ошибочным советам или поддержке. Это может еще больше усложнить или усугубить проблемы психического здоровья, особенно там, где важны нюансы человеческого сопереживания. Эти противоречия подчеркивают необходимость осторожной, этически обоснованной интеграции ИИ эмоций в лечение и уход за психическим здоровьем. Эти технологии должны дополнять, а не заменять человеческие элементы сопереживания, понимания и связи. Это требует переосмысления отношений между человеком и ИИ, особенно в том, что касается эмпатии. Обеспечив этическое развитие эмоционально-индивидуального интеллекта, мы сможем стремиться к будущему, в котором технологии будут укреплять психическое здоровье, при этом не мешая людям оставаться людьми. По материалам статьи «Increasingly sophisticated AI systems can perform empathy, but their use in mental health care raises ethical questions» The Conversation

Читайте также

 37.7K
Интересности

15 фактов о мужчинах

1. Большинство мужчин имеют сексуальную связь с 4 – 6 девушками до появления серьезных отношений. Так что их рассказы о бурной холостяцкой жизни – не больше, чем выдумки. 2. Для большей половины представителей сильного пола красивое лицо женщины важнее безупречной фигуры. 3. Треть мужчин не удаляют номера бывших девушек, чтобы было кому позвонить, когда захочется излить душу или заняться сексом. 4. Большая часть холостяков до 27 лет живут под родительским крылом. 5. Всем известно, что мужчины жутко боятся стать импотентами. На втором месте, как не странно, страх облысеть. 6. 96% мужчин мечтают о некурящей девушке. 7. Мужчина в среднем съедает за всю свою жизнь 3 кг помады. Из женских губ, конечно. 8. 80% мужчин настолько боятся ходить к врачам, что откладывают эти визиты до последнего. 9. У 30% мужчин, которые присутствовали на родах своих жен, случались проблемы с эрекцией, которые длились от двух месяцев до нескольких лет. 10. Большая часть среди посетителей интернет-магазинов женского нижнего белья – мужчины. 11. В среднем у мужчин температура тела выше, чем у женщин. Если зимой у вас в квартире холодно, рекомендуется спать в одной кровати с мужчиной. Мужчины - это переносные обогреватели, которые храпят. 12. Если мужчина приготовил для вас обед и в салате содержится более трех составляющих, считайте, что у него серьезные намерения. 13. Освободиться от мужчины, не задев при этом его мужественности, бывает непросто. Фразы "Убирайся прочь" и "Я не хочу тебя больше видеть" могут звучать как вызов. Если вы действительно желаете избавиться от мужчины, попробуйте сказать ему: "Я люблю тебя....я хочу за тебя замуж.... я хочу иметь от тебя детей". Иногда они оставляют дымящийся след на паркете. 14. Мужчины забывают все, в то время как женщины ничего не забывают. Именно поэтому при трансляции спортивных состязаний часто показывают повторы. 15. Большинство мужчин ненавидят заниматься покупками. Именно поэтому отдел мужской одежды, как правило, расположен на первом этаже в двух дюймах от входной двери.

 21.8K
Жизнь

Почему не стоит делиться своими планами?

"Хочешь рассмешить Господа Бога — расскажи ему о своих планах", — гласит поговорка. Действительно, порой даже тщательно продуманные, "верные" перспективы срываются в связи с непредвиденными обстоятельствами. Или… человек сам отказывается от намеченного. Оказывается, еще в прошлом столетии этот феномен привлек внимание многочисленных исследователей. Казалось бы, что-то наметив (купить машину или дом, поехать в отпуск за границу, вступить в брак, начать бизнес), логично поведать об этом друзьям и знакомым, чтобы они нас поддержали и порадовались за нас. Однако еще в 1933 году зарубежные психологи выяснили, что, чем большему количеству людей мы поведаем о своих намерениях, тем меньше вероятность, что они будут воплощены в жизнь. В чем же тут фишка? Если мы рассказываем о своих планах заранее, это в нашем подсознании становится свершившимся фактом, считает исследовательница Вера Малер. А раз цель подсознательно уже достигнута, то, соответственно, у индивида снижается мотивация. Профессор психологии Нью-Йоркского университета Питер Голлуитцер затронул эту тему еще в 1982 году в своей книге "Символическое самозаполнение". Не так давно он провел ряд исследований, в которых приняли участие 63 человека. Оказалось, что люди, которые не делились своими планами с другими, выполняли их с большей вероятностью, чем те, кто публично рассказывал о них и получал одобрение и поддержку окружающих. Профессор Голлуитцер полагает, что рассказ о своих намерениях дает нам "преждевременное чувство завершенности". В нашем мозгу присутствуют так называемые "символы идентичности", которые помогают нам составить представление о самих себе. Чтобы такой символ возник, достаточно не только действий, но и просто разговоров о них. Предположим, Вы рассказали о своем намерении написать диссертацию и представили себя кандидатом или доктором наук. Мозг удовлетворился этой игрой воображения, и у Вас исчезает стимул делать что-то для достижения этой цели — поступать в аспирантуру, искать научного руководителя, сидеть в библиотеке, собирая материал, и прочее.

 21.3K
Искусство

Почему фильм «Дом» запрещен во многих странах?

Документальная картина «Дом» не несет в себе абсолютно никаких экстремистских или аморальных планов, тем не менее фильм запретили 36 стран мира. Недоумение зрителя понятно, но анализ причин ограничения показов все ставит на свои места. Существует всего 2 основных стоп-аспекта. Социально-политический момент. «Дом» — это своего рода эстетическое потрясение, способное мотивировать многих впечатлительных зрителей на активные действия. Особенно это касается молодежи. Такое кино может привести к интенсивному разрастанию экологических группировок, в том числе и радикального толка. Пока их количество и численность участников невелика, угрозы политической ситуации не возникает. Если же ряды защитников природы станут активно пополняться, такие сообщества вполне могут стать помехой многим проектам разных стран. Такие движения могут устраивать стихийные митинги и мешать вырубкам лесов, застройкам в эко-зонах. Опасаясь этих явлений, некоторые страны запретили «Дом» к показу. Запрет существует для того, чтобы его непременно нарушить. Так считает режиссерский состав картины. Бессон всегда нетривиально подходит к реализации своих проектов и в данном случае намеренно ограничивает ряд стран в фильме «Дом». По неподтвержденной информации и вовсе существует договоренность авторов с отдельными правительствами. Запрет ленты согласован сторонами. Сделано это для того, чтобы наоборот подогреть интерес публики и мотивировать зрителя на поиски кинофильма через «нелегальные» ресурсы. Стоит отметить, что создатели фильма своего добились. Популярность некоммерческой картины невообразимо велика в сравнении с разрешенным кино документального плана.

 16.1K
Интересности

Подборка блиц-фактов №15

Лесоруб - одна из самых опасных профессий в мире. Если бы при покупке каждой бутылки кока-колы сажали дерево, все лесные массивы земли восстановились бы через три года. Если вы съели что-то слишком острое, чайная ложка сахара уберет жжение. По мнению психологов, если вы смогли остаться друзьями после расставания, значит, либо вы всё еще любите друг друга, либо никогда не любили. Когда Бетховен делал себе кофе, он лично отсчитывал 60 зерен в каждую чашку. Чтение для ума - то же, что физические упражнения для тела. Кошки плохо различают вкус пищи, на языке кошки всего 473 вкусовых почки (у человека 9000). На Кипре деда мороза зовут Василий. Глаз человека имеет около 576 мегапикселей. Мыши не любят сыр. В мире существует столько алмазов, что каждому человеку досталось бы по полной чашке. Единственное бессмертное существо на земле - медуза гедроид. Абсолютно чистое золото очень мягкое, его можно мять руками. Только 18 стран в мире богаче чем Билл Гейтс. Наполеон и Гитлер, оба пришли к власти, когда им было 44 года, оба напали на Россию, когда им было 52 года, оба проиграли войну, когда им было по 56 лет. Ученые выяснили, что лень полезна для здоровья, делать меньше - гораздо полезнее для организма, чем изнурять себя тренировками.

 13.9K
Интересности

15 лучших селфи

Подборка необычных и безумных селфи. Приятного просмотра!

 13.6K
Искусство

Притча о Двух Монахах

Путешествовали по миру два монаха. Однажды на своём пути они встретили очень красивую женщину. Она была просто неземной красоты. Женщина стояла возле реки и пыталась её пересечь. Ей необходимо было попасть на другой берег. Но течение реки было настолько сильным, что у неё никак не получалось сделать это самостоятельно. Тогда один из монахов без промедления и каких-либо вопросов быстро подошёл к женщине, взял её на руки и перенёс на другой берег реки. Затем он вернулся к своему спутнику, и они молча продолжили свой путь. Так они шли какое-то время. Вдруг второй монах не выдержал и спросил: - Мы же принесли обет не касаться женщины. Как ты мог посадить её себе на плечи? Другой монах серьёзно посмотрел на своего спутника и ответил: - Я поставил женщину на берег час назад, а ты, судя по всему, всё ещё несешь её с собой. Мораль: Вот так и мы в обычной жизни очень часто "продолжаем нести" груз нестоящих забот, и за их тяжестью не видим ни дорогу, ни пейзаж вокруг, ни людей, идущих рядом или навстречу...

 10.1K
Интересности

Лучшие фокусы мира №2

Хотите немного уличной магии от Смузини?

 9.1K
Психология

25 способов узнать у ребенка, как дела в школе?

Если вы спросите у ребенка «Ну как дела в школе?», то, скорее всего, получите ответ: «Нормально». А если вы действительно хотите узнать, как прошел его день, то помогите своему ребенку: задайте такой вопрос, на которые можно будет ответить подробно. 1. Что самое хорошее из того, что произошло с тобой сегодня в школе? Что худшее из того, что произошло с тобой сегодня в школе? 2. Расскажи мне что-нибудь смешное, над чем ты сегодня посмеялся? 3. Если бы ты мог выбрать, с кем бы ты хотел сидеть в классе? А с кем бы точно не хотел сидеть? Почему? 4. Расскажи мне о самом классном месте в школе. 5. Какое самое странное слово, которое ты услышал сегодня? Или может быть тебе сказали сегодня что-то странное? 6. Если бы мы пригласили сегодня твоего учителя к нам в гости, что бы он мне рассказал о тебе, как думаешь? 7. Кому ты сегодня помог? 8. Может, кто-то тебе сегодня помог? 9. Расскажи мне, что нового ты узнал сегодня? 10. Был ли момент, когда ты чувствовал себя самым счастливым сегодня? 11. Было ли тебе сегодня очень скучно? 12. Если бы инопланетяне прилетели в ваш класс и забрали кого-то из учеников, кого бы ты хотел, чтобы они забрали? 13. С кем бы ты хотел поиграть на перемене из тех, с кем ты еще никогда не играл? 14. Расскажи мне о чём-то хорошем, что произошло с тобой сегодня. 15. Какое слово учитель чаще всего сегодня повторял? 16. О чём бы ты еще больше хотел узнать в школе? 17. Чего бы тебе хотелось меньше делать в школе? 18. С кем бы ты в своем классе мог вести себя лучше? 19. Где ты чаще всего играешь на переменах? 20. Кто самый смешной ученик в вашем классе? Почему он такой смешной? 21. Тебе понравился сегодняшний обед? Что больше всего понравилось? 22. Если бы завтра ты стал учителем, что бы ты сделал? 23. Как ты думаешь, может, кому-то из вашего класса лучше уйти из школы? 24. Если бы ты мог поменяться с кем-то в классе местами, кто бы это был? Почему? 25. Расскажи мне о трех различных случаях, когда ты использовал карандаш сегодня в школе.

 6.3K
Искусство

Притча о благоденствии

Однажды Садовник пришел в свой сад и обнаружил, что все его цветы, деревья и кустарники умирают. Дуб пояснил, что умирает, так как не может быть таким высоким, как Сосна… Садовник застал Сосну поверженной: она согнулась под тяжестью мысли, что не могла давать виноград, как Лоза… А Лоза погибала, потому что не могла цвести, как Роза… Роза плакала, так как не была столь сильной и могучей, как Дуб… Тогда он нашел одно растение – Фрезию, цветущую и прекрасную, как никогда! Садовник спросил: ”Как же так? Ты растешь посреди этого увядшего и мрачного сада, а у тебя такой здоровый вид?” Красавица ответила: ”Я не знаю… Возможно, я всегда думала, что, сажая меня, ты хотел именно Фрезию. Если бы ты хотел иметь в саду еще один Дуб или Розу, ты бы посадил их…Тогда я сказала себе: я постараюсь быть Фрезией настолько хорошо, насколько смогу!"

Стаканчик

© 2015 — 2024 stakanchik.media

Использование материалов сайта разрешено только с предварительного письменного согласия правообладателей. Права на картинки и тексты принадлежат авторам. Сайт может содержать контент, не предназначенный для лиц младше 16 лет.

Приложение Стаканчик в App Store и Google Play

google playapp store