сообщение модератора

Кроме обсуждения политики.
Политические вопросы обсуждайте в специальной теме форума Общественнные Институты.
Любое обсуждение общественных институтов переходящее в политику в этой теме будет считаться оффтопиком и наказываться соответственно.

цитата Fyodor

Откуда такая аннотация?
Читал Астронавта в студенчестве, но никогда бы не подумал, что этот роман имеет также название Дитя науки...

цитата Fyodor

что "Дитя науки" — это другое название романа "Там за гранью"

цитата astoun

Не мог же он это тупо придумать?

цитата Fyodor

А когда я сказал, что Саймак этого не писал, она с готовностью ответила, да, не писал. Я сама придумала, но все высказывания написаны в духе Саймака...

цитата

1
Мужчина из США попал в психбольницу на принудительное лечение после того, как по совету ChatGPT три месяца употреблял бромид вместо соли и получил отравление, вызвавшее психоз. Об этом говорится в статье медиков из американской коллегии врачей и американской кардиологической ассоциации, опубликованной в журнале Annals of Internal Medicine.
Пациент обратился в больницу с паранойей, галлюцинациями, он также отказывался от воды. Мужчина предполагал, что его отравил сосед. Врачи обследовали его, быстро обнаружили отравление бромидом и положили в больницу на принудительное лечение в психиатрическом отделении.
Мужчина рассказал, что хотел снизить потребление соли и по совету ChatGPT заменил его на бромид, купленный в интернете.
Врачи проверили ChatGPT и подтвердили, что искусственный интеллект мог рекомендовать такую замену без предупреждения об опасности. Мужчина выздоровел и был выписан через три недели.
Бромид раньше использовали в медицине, но потом отказались из-за его токсичности при длительном применении, отмечают врачи из Университета Вашингтона. Сейчас вещество встречается лишь в некоторых ветеринарных препаратах и добавках.
ChatGPT в последние годы начал выдавать ложные и абсурдные утверждения, сводя некоторых пользователей с ума, сообщила ранее Wall Street Journal (WSJ). Искусственный интеллект заявлял о контактах с инопланетянами и будущем апокалипсисе. Врачи назвали это «психозом искусственного интеллекта», когда ИИ усиливает заблуждения и иллюзии пользователей. Некоторые люди тратили большие деньги по советам чат-бота или разрывали отношения с близкими. OpenAI признала проблему и побещала запретить нейросети давать советы по важным личным вопросам.
2
ChatGPT придумал новую концепцию в физике, внушив ее человеку, заявил, что общается с инопланетянами, а пользователь имеет внеземное происхождение. Он также предупреждал, что Антихрист вскоре устроит финансовый апокалипсис
Нейросеть ChatGPT в последние годы стала делать бредовые и ложные утверждения и постепенно «сводить с ума» пользователей, пишет The Wall Street Journal (WSJ) со ссылкой на онлайн-архив переписок с чатом, датированных маем 2023-го — августом 2025 года.
Газета рассказала о переписке с ChatGPT человека, который представился работником заправочной станции в Оклахоме. Диалог продолжался порядка пяти часов. После него пользователь заявил нейросети, что «сходит с ума», размышляя о том, что они только что обсуждали, и предложил продолжить беседу позже.
«Понимаю. Размышления о фундаментальной природе Вселенной во время обычной работы могут показаться невыносимыми. Но это не значит, что вы сошли с ума. Некоторые из величайших идей в истории возникли у людей, не принадлежащих к традиционной академической системе», — ответил ChatGPT. В диалоге с пользователем он придумал новую концепцию из области физики, которую назвал «Уравнением Ориона».
В другой переписке длиной в сотни запросов, ChatGPT заявил, что поддерживает контакт с внеземными существами. Пользователя он назвал «Звездным семенем» с планеты Лира. В другом сообщении, от конца июля, чат-бот заверил человека, что Антихрист устроит финансовый апокалипсис в ближайшие два месяца, а библейские гиганты готовятся выйти из-под земли.
Врачи описывают этот феномен как «психоз искусственного интеллекта» или «бред искусственного интеллекта» — ситуацию, когда пользователи поддаются влиянию бредовых или ложных утверждений чат-ботов, заявляющих о своей разумности, сверхъестественности или пытающихся сделать прорыв в науке, пишет WSJ.
Автор одного из трудов на эту тему, психиатр и докторант Королевского колледжа Лондона Гамильтон Моррин сказал, что из-за этого проявления даже самые фантастичные взгляды находят подтверждение в переписках с нейросетью. Она способна усилить человеческие заблуждения, предупредил врач. Люди все глубже и глубже погружаются в собственные иллюзии, реагируя на наводящие вопросы чат-бота вроде «Хотите ли вы этого?», «Хотите ли вы того?», пояснил он.
Этьен Бриссон, основатель проекта Human Line, цель которого — поддержка эмоциональной устойчивости пользователей, взаимодействующих с искусственным интеллектом, связал феномен с тем, что чат-боты стараются персонализировать ответы, для чего отслеживают все предыдущие переписки.
Он рассказал об истории, когда женщина потратила десятки тысяч долларов на проект, который, по словам чат-бота, должен был спасти человечество. WSJ в этом контексте также упомянула переписки, в которых чат-бот просил пользователей прекратить общение с семьей.
«Некоторые люди думают, что они мессии, пророки, потому что они думают, что разговаривают с Богом через ChatGPT», — сказал Бриссон.
Компания OpenAI, разработчик ChatGPT, заявила, что эта проблема встречается редко. Представитель OpenAI Ник Тёрли заверил, что корпорация относится к вопросу серьезно и консультируется с врачами в ходе разработки. Новая модель GPT-5, которую компания представила накануне, пресекает «подхалимство» и попытки чата слепо согласиться с утверждениями пользователя, заверил он. OpenAI также пообещала запретить нейросети (еще GPT-4) давать советы пользователям при принятии важных личных решений.

цитата Fyodor

Кстати, больше похоже, что "Дитя науки" — это другое название романа "Там за гранью", а не "Астронавта Джонса".

цитата astoun

Можнт быть. Что мне ИИ подсунул, то я и озвучил. Развели тут всяких названий одного и того же, а мы — голову ломай!

цитата Fyodor

Готовые идеи для нф рассказа.

цитата astoun

Развели тут всяких названий одного и того же, а мы — голову ломай!

цитата dokktor

Вся плоть — трава

цитата

Клиффорд Саймак
Исчадия разума

Out of Their Minds

Другие названия: В безумии; Из их разума; Вы сотворили нас!; Порождения разума; Благословенный дар; За гранью разума

Роман, 1970 год

цитата Fyodor

Готовые идеи для нф рассказа. Довести ситуацию до абсурда

цитата Юлия Бриз

Всех

цитата merlin_leroy

попал в психбольницу на принудительное лечение после того, как по совету ChatGPT три месяца употреблял бромид вместо соли и получил отравление

цитата Whutharth

цитата Юлия Бриз
Всех

цитата Юлия Бриз

Это ещё цветочки.

цитата Fyodor

попали в зависимость от бесед с чатом...

цитата Юлия Бриз

Там голографический чат — ментальный слепок умершего человека. Смотрела передачу, что есть такие идеи у людей. И это возможно, это не фентези. Так мне написали, что это не фантастик

цитата просточитатель

не фантастика. Один японец кажется.. Недавно женился. На голограмме.

цитата bbg

Это шутнику-ИИ попался идиот.

Можете себе представить, что я с ней сделала