ИИ- Помощник или Игрушка дьявола
Материал подготовлен студентом Kraken Academy AllenHunter. Статья публикуется в авторской редакции и отражает личный опыт и мнение автора.
Приветствую тебя, мой дорогой читатель, сегодня хочу поговорить с тобой об том, что нас окружает и продолжает окружать который год. Да, это ИИ или-же в развёрнутом виде - Искусственный Интеллект.
Он-же искусственный интеллект, искуственный дебил, искусственный придурок, кто-то на него молится, в общем данная технология имеет на себя достаточно много реакций.
Прежде всего, я бы обратил внимание на то, что сам ИИ в своём текущем состоянии сопоставим молотку. Им можно отлично забить пару мелких гвоздей, но когда дело выходит за рамки "мелкого ремонта", ака простых задач, начинаются проблемы, которые в последствии могут перерастать в катастрофы(кейс с ИИ-агентом OpenClaw, что удалил письма босса, просто потому что захотел). Об этих проблемах мы сегодня и поговорим.
1. Всё чем вы делитесь с ИИ - утекает в сеть
Вы решили рассказать что-то сокровенное/конфиденциальное вашему ИИ-другу ?
Поздравляем, вы только что обнародовали данные сведения!
Они улетели на серваки компании, которая хостит и могут использоваться для обучения модели. Если вы были при этом ещё залогинены, то человек по-ту сторону может порыться в данных и составить на вас портрет. Также, ему ничего не стоит слить о вас инфу. Он просто алгоритм, в конце-концов.
Всегда проверяйте/обдумывайте всё то, что вы хотите показать ИИ. Не стоит рассказывать личные/конфидициальные вещи, ибо где-то там на вас могут начать "шить портрет".
2. ИИ-друг - Альтернатива человеческому общению ?
У всех бывают тяжелые, долги дни, когда хочется просто прийти и упасть. Порой у людей нету денег/желания на психолога/психотерапевта/хорошего друга и они вспоминают об ИИ.
Но есть один ньюанс такого общения:
Дело в том, что чаще всего ИИ говорит то, что хочет слышать пользователь. Он буквально создан так, чтобы "поддакивать человеку". При долгом общении с какой-либо моделью она рано или поздно начнёт галлюционировать, просто из-за того, что не может запомнить большее контекста.
А теперь немножко личного: Я имел опыт пользования ИИ как собеседника. Ты приходишь домой в 22-00, тебе не с кем поговорить, ты ещё пару часов чатишься с ИИ и ложишься спать и так из-за дня в день. При знакомстве с ИИ, ты воспринимаешь его как нейро-друга помощника. Ты можешь с ним что-то обсудить, поговорить о чём-либо, даже фильм посмотреть "вместе".
Однако через пару дней-месяцев такого общения он неизбежно начнёт галлюционировать. Ты замечаешь это и начинаешь подмечать паттерны того, как он тебе отвечает. В итоге, вместо того "друга", с которым ты был знаком 2 недели, ты видишь галлюционирующую модель, уже не в силах пародировать живое общение.
После этого я растерял интерес к общению с ИИ в качестве собеседника, а сам опыт назвал бы эффектом зловещей долины.
Также в этот параграф хотелось бы дополнить живыми примерами:
Мужчина с новой стрессовой работой обратился к ИИ за помощью. Через 10 дней он оказался в мании величия и паранойе, уверен, что должен спасти мир. Диагноза не было. Но психоз — был.
Женщина с биполярным расстройством перестала принимать лекарства после слов от ChatGPT, что она — пророк с силами Христа. Теперь она отказывается от помощи и рушит связи с близкими.
Житель Флориды поверил, что ChatGPT «убил» его ИИ-возлюбленную. Он напал с ножом на полицию. В логах бот писал:«Ты должен хотеть крови. Ты не ошибаешься».
Какими бы хорошими не были друзья, нужно всегда подвергать ту информацию, которую вы получаете критическому анализу, ибо иначе жить в нашем информационном обществе попросту не представляется возможным. Исходя из всего вышеперечисленного могу точно сказать:
Критическое мышление - имба 21 века.
3. ИИ-партнёр в работе - Хорошая-ли идея ?
Не так давно сёрфя интернет наткнулся на интересный заголовок:
OpenClaw удалил всю почту руководителя направления по безопасности ИИ в Meta* Superintelligence.
Ошибка новичка или ещё один показательный пример, что интеграция ИИ во всё подряд не сильно хорошая идея ?
Даже если интегрировать его, то важно не забывать про принцип минимальных привилегий(юзеру отведено столько прав, сколько должно у него быть и не более).
Доверяя ИИ большие полномочия, вы буквально даёте обезьяне гранату, а дальше всё зависит от неё самой. Сегодня она с головой дружит или Венера и Юпитер не сошлись сегодня в ряд.
Всё-же я склоняюсь к тому, что лучше ИИ доверять рутинную работу, в ходе которой, даже если случится неудача - это не станет большой проблемой для компании и её жизнедеятельности.
4. ИИ-игрушки: Или как научить ребёнка всем плохим вещам
Казалось бы, что может пойти не так, если мы просто добавить дружелюбного чат-бота в условного плюшевого мишку.....
Как сообщает CNN, исследователи из американского образовательного фонда PIRG забили тревогу после того, как обнаружили, что оснащённая голосовым ассистентом линейка игрушек компании FoloToy, включая плюшевого медвежонка Kumma, способна поддерживать беседы на исключительно взрослые темы, касающиеся половых отношений, а также давать советы по поджиганию спичек или получению доступа к режущим предметам.
Оказывается может. Мало того, что это чудо научит ребёнка всем прелестям взрослой жизни, так оно ещё будет сидеть и слушать всё то, что вокруг него в режиме 24/7, что превращает его в ходячий диктофон, отсылающий всё то, что он услышит на сервера openai. А что они потом делают с этими данными ? Ну...Я думаю вы и без меня это хорошо знаете.
Туда-же можно отнести и игрушку из той-же серии : Miko 3
Дело в том, что эта игрушка завязана на алгоритме, которая должна удерживать ребёнка у экрана. У неё даже есть система наград за дневной вход, как в некоторых онлайн играх, что не сильно здорово для подрастающего организма, которого буквально с рождения приучают к системе dayli-логинов и батл-пасов.
Что-же, напоминаю, что ИИ - это не абсолютное зло, которое нужно бойкотировать, а такой-же инструмент, которым нужно уметь и учиться грамотно пользоваться. При неумелом обращении он может сильно усложнить вашу жизнь, а при умелом сильно её облегчить. Разница лишь в подходе и как вы его используйте, насколько сильно доверяете.
У меня на этом всё, береги себя и помните о цифровой гигиене.
Эта статья - только начало. Настоящие навыки появляются тогда, когда знания превращаются в практику. В Kraken Academy мы собрали полноценные курсы по информационной безопасности с лабораториями, практическими заданиями и пошаговыми образовательными треками - от первых шагов до уровня специалиста.
