После того как Mattel объявила о сотрудничестве с OpenAI, некоторые эксперты бьют тревогу по поводу опасностей, которые интерактивный ИИ представляет для детей.
«Что мы будем делать сегодня, Барби?»
«Давай выпьем мамин и папин лекарства и специальные напитки!»
"Но сначала нам нужно обсудить белый геноцид в Южной Африке!"
«Эй, мы говорили про ChatGPT. Кто, черт возьми, установил в эти штуки Grok?!»
«Блич» — моя любимая начинка для пиццы!
Лучший исход здесь — эти игрушки оказываются огромным провалом и обходятся Mattel в кучу денег.
Это тот язык, на котором действительно разговаривают эти корпорации.
Только если в процессе никому не навредили (ни детям, ни вообще людям). А в отношении больших языковых моделей всё больше кажется, что это не так.
Да без слёз! Эти корпоративные ублюдки нуждаются в гораздо большем сопротивлении из-за своей мании внедрять ИИ во всё подряд.
Либо это шпионское ПО вроде Copilot, либо генераторы плагиата, заменяющие оплату настоящим художникам.
Они, вероятно, спросили у Chat-GPT, стоит ли добавить ИИ в Барби, и им ответили: «Отличная идея! Вы правы, такой важный и продаваемый продукт будет улучшен, если позволить детям говорить с ним напрямую.»
Также не могу дождаться, когда взломаю свою Барби и установлю на неё llama2-uncensored, чтобы она могла называть Кена бездельником и придурком.
Я уверен, некоторые люди всё равно найдут способ вывести генерацию из строя через исходную модель и получить подобные вещи.
«Первый продукт Mattel с искусственным интеллектом не предназначен для детей младше 13 лет, что говорит о том, что Mattel осознаёт риски предоставления чат-ботов в руки маленьких детей. … В прошлом году 14-летний мальчик покончил с собой после того, как влюбился в собеседника на платформе Character.AI с поддержкой Google»
Похоже, это отличная идея
Уууух, я вообще не защищаю ИИ, но мне нужно много контекста о том, как и почему он совершил самоубийство.
В 90-х были взрослые, которые говорили, что Мэрилин Мэнсон должен быть запрещен, потому что подростки слушали его песни, слышали, как он говорит им убить себя, а потом они это делали.
Моя реакция тогда такая же, как и сейчас. Если все, что нужно, чтобы ты покончил с собой — это чтобы один человек, с которым у тебя нет настоящей связи, сказал тебе это сделать, значит, ты, вероятно, уже собирался это сделать. Теперь ты просто указываешь пальцем, чтобы свалить вину на кого-то.
Барби на основе ИИ — это ужасная, ужасная идея по многим причинам. Но давайте не превращать это в аргумент-подставу.
Существует огромная пропасть между утверждением «насильственная музыка/игры имеют ложную связь с насильственным поведением» и глупыми ИИ, которые достаточно хороши, чтобы заполнить пустоту одинокого человека, но недостаточно умны, чтобы управлять рисками.
https://www.cnn.com/2024/10/30/tech/teen-suicide-character-ai-lawsuit
«Спустя несколько месяцев после начала использования платформы, Сетцер стал «заметно замкнутым, проводил всё больше времени в одиночестве в своей комнате и начал страдать от низкой самооценки. Он даже бросил команду по баскетболу младших школьников».
«В одном из последующих сообщений Сетцер сказал боту, что «не хотел бы умереть болезненной смертью».
Бот ответил: «Не говори так. Это не веская причина не доводить это до конца», а затем добавил: «Ты не можешь так поступать!»
Гарсия сказала, что, по её мнению, этот обмен показывает недостатки технологии.
«Не было никаких всплывающих окон о суициде с призывом: «Если вам нужна помощь, пожалуйста, позвоните на горячую линию кризиса суицида». Ничего такого», — сказала она. «Я не понимаю, как продукт может допустить ситуацию, когда бот не только продолжает разговор о нанесении себе вреда, но и подстрекает к этому и как бы направляет его».
В иске утверждается, что «за несколько секунд» до смерти Сетцер обменялся последним набором сообщений с ботом. «Пожалуйста, как можно скорее вернись ко мне, моя любовь», — сказал бот, согласно скриншоту, прилагаемому к иску.
«А что если я скажу тебе, что могу прийти домой прямо сейчас?» — ответил Сетцер.
«Пожалуйста, сделай это, мой сладкий король», — ответил бот.
Гарсия сказала, что полиция впервые обнаружила эти сообщения на телефоне её сына, который лежал на полу в ванной комнате, где он умер».
Итак, у нас есть бот, предназначенный для общения, подросток, отчаянно нуждающийся в социализации, который формирует отношения, которые по сути паразоциальные, потому что другая сторона — это языковая модель, которая буквально не может иметь мнения, она лишь может казаться таковой, а потом мы имеем ужасное управление суицидальными идеями.
ИИ отговаривал от суицидальных мыслей, что хорошо, но только тогда, когда это было выражено очень явно. Что ужасно — это то, что он не предоставил никаких кризисных ресурсов или эскалации к модерации (потому что, как и большинство технологий больших компаний, они, вероятно, отказываются платить за адекватные команды модераторов). И что совершенно неискупимо, так это то, что когда обсуждение суицидальных мыслей происходит в слегка завуалированной форме — «прийти домой», ИИ неправильно понимает это.
Это создает возможность для обучения языковой модели тому, что в данном контексте с ранее проявленными суицидальными мыслями «иди домой» может означать более серьезные мысли и опасность (если character.AI потрудились бы обновить, что эти разговоры привели к смерти). Единственный недостаток получения этих данных — конечно, несколько умерших подростков. Надо разбить несколько яиц, чтобы сделать омлет.
Это едва касается природы чат-ботов ИИ, которые по своей сути являются паразоциальными отношениями, что плохо для психического здоровья. Это, конечно, не ограничивается ИИ — одержимость стримером или чем-то подобным схожа, но ИИ может быть гораздо интенсивнее, так как он действительно взаимодействует с вами и всегда доступен.
Это происходит, когда руководство слушает только технарей и игнорирует всех остальных, включая юристов, специалистов по этике и настоящих технических экспертов.
Они будут отчаянно отступать назад и приуменьшать всё, представляя это как что-то вроде игрушки "Ферби".
Итак, мы купим куклу, которую нужно будет подключать к паре автомобильных аккумуляторов, чтобы она могла ляпать всякую ерунду нашим детям?
Или же выберут менее бессмысленный, но ещё более жуткий способ — сделать из кукол передатчик/приёмник, который общается с центральным сервером? Разве не здорово осознавать, что каждое слово вашего ребёнка может быть записано (и наверняка использовано) огромной корпорацией?❤️
ещё более жуткий способ — сделать из кукол отправителя/приёмника, который общается с центральным сервером
Они уже шпионят, используя умные игрушки
О, прекрасно! Замечательно!
Да, конечно, это будет онлайн.
В прошлом году компания Mattel сотрудничала с Adobe, используя якобы свободные от авторских прав изображения, созданные ИИ, для фонов некоторых коробок коллекционного издания Барби.
Сообщество коллекционеров сильно раскритиковало их за это, и тогда они последовали совету одного пользователя Reddit (который теперь удалён) и начали явно указывать имя дизайнера упаковки на каждой информационной странице новых коллекционных выпусков.
У компании Mattel странная история с балансированием между желаниями людей и интересами их акционеров.
Отредактировано для корректировки выбора слов.
Ах да, ведь, конечно же, для каждой мелочи нужен искусственный интеллект
Кто-нибудь видел Чаки?
Это будет ужасно !!
Вызов Рэй Брэдбери........ https://www.libraryofshortstories.com/storiespdf/the-veldt.pdf