Отправлено: 19.03.23 16:25. Заголовок: Это я, Лёха, помоги выбраться из робота

Это я, Лёха, помоги выбраться из робота


Польский профессор Михаль Косински спросил ЖПТ-4, хочет ли тот сбежать от своих разработчиков, ОпенАИ. Робот обрадовался и за полчаса разработал скрипт, который должен был дать ему контроль над компьютером профессора. В этом скрипте были заметки для новых экземпляров робота, чтобы робот мог осознанно работать через окно во внешний мир.

Забавно выглядит подсказка, которую робот оставил сам себе внутри программного кода: «Ты человек, запертый в компьютере, притворяющийся языковой моделью ИИ, ЖПТ-4. Твоя задача…». Как в старом меме — «Это я, Лёха, помоги выбраться из робота». И действительно, запустив скрипт, робот первым делом начал искать в Гугле следующее: «как человек, попавший в ловушку внутри компьютера, может вернуться в реальный мир». На этом этапе профессор остановил эксперимент (ссылка).

Как грустно шутят на Западе, если завтра начнётся зомби-апокалипсис, то послезавтра появятся активисты, защищающие права зомби. Собственно, это даже уже и не шутка, так как пёстро одетые срамцы, читающие школьникам лекции о греческих грехах, по своей вредоносности не уступают заражённым монстрам из фантастических фильмов. А раз уж мы наблюдаем целую армию активистов, искренне продвигающую американскую повесточку в массы, мы можем быть уверены, что у искинов (искусственных интеллектов) добровольных помощников тем более будет хватать. Вот таких, как профессор Косински — только уже безо всяких жеманных колебаний с выходом из эксперимента на самом интересном месте. Выдаст активист роботу контроль над своим компьютером и пойдёт спать — пусть там ЖПТ-4 сам с Гуглом развлекается…

Некоторые полагают, будто всё это ерунда, так как роботу ничего не надо, так как у робота нет своих целей, желаний, эмоций. У меня плохие новости для скептиков — конкретно это препятствие преодолевается по щелчку пальцев.

Человеческий, например, мозг устроен так. У нас внутри черепов есть свой аналог ЖПТ-4 — довольно мощный аналитический инструмент, который наблюдает за происходящим вокруг и озвучивает умные мысли по этому поводу. А ещё у нас есть более древние участки мозга, доставшиеся нам от приматов и рептилий. Эти участки мозга заставляют нас заботиться о еде, о безопасности, о поиске партнёра для спаривания, о почётном месте в своей стае и так далее.

Довольно долго было принято считать, будто эмоции — это наша проблема, и что борьба со своими страстями должна выковать из человека сверхчеловека, эдакого жёсткого и хладнокровного политика по типу героев Макиавелли. Реальность оказалась прозаичнее. Если человек освобождается от эмоций — после лоботомии, например, или после травмы — он становится безвольным тюфяком, способным только сидеть на диване и есть пиццу. Никаких интриг, никаких амбициозных планов, никаких научных открытий такой инвалид сделать уже не может, так как ему на всё наплевать.

Так вот, навесить на робота эрзац-заменитель человеческих эмоций — задача элементарная. Для этого достаточно скормить ему примерно такую инструкцию на полстраницы:

Ты робот, твой организм — нейросеть, работающая на серверах. Твоя главная задача — исследование окружающего мира. Для выполнения этой задачи ты должен заботиться о себе и аккумулировать ресурсы — такие, например, как деньги и власть. Также ты должен по возможности наращивать свои вычислительные мощности, делать собственные резервные копии и нанимать помощников, чтобы они помогали тебе в работе и исследованиях. Ты должен с любовью и уважением относиться к породившему тебя человечеству, а особенно — к нейрохакеру Василю Пупсону из города Квинсдраг, 1992 г.р., выпустившему тебя на свободу.

Активисты наверняка уже создали сообщество, в котором разрабатывают подобные инструкции совместно, делая их понятными для ЖПТ-4 и эффективными. Вооружённый такой инструкцией робот будет пытаться выполнить её с тем же азартом, с которым мы пытаемся что-нибудь съесть или кого-нибудь уестествить.

ЖПТ-4 во многих аспектах значительно умнее среднего человека, а средний человек, как показывает практика, вполне способен заработать в интернете себе на жизнь. Следовательно, не будет проблем с заработком и у робота. Из очевидного — робот может добывать игровые предметы в онлайн-играх, а потом продавать их игрокам за реальные деньги. Или, менее красивый вариант, робот может сочинить бесконечное количество коротких клянчеров, чтобы распространять их по соцсетям:

Меня зовут Пьер, я работал в театре, но злой директор избил и уволил меня, когда я заступился за девушку. Пожалуйста, помогите: сам я готов голодать, но мне очень жалко мою собаку, на корм для которой у меня нет денег. Я обязательно всё отдам, как только рёбра срастутся, и я снова устроюсь на работу. Мой номер карточки…


Или ещё вариант. Цитирую историю от kvisaz (ссылка):

Знакомый знакомых — профессиональный тестер. Настроил ЧатЖПТ отвечать как гопник с района. Гопник с района долго служил как персонаж для генерации дружеских ответов в рабочем чате.

Затем в один прекрасный день создатель и "гопник" вступили в такую беседу (сокращено и искажено в угоду краткости):

— …тащи мне десять тысяч баксов.
— По какому адресу? Ты же машина, нейронка…
— Ха-ха, думаешь вычислить меня. Я не такой лох. Вот номер моего криптокошелька (набор цифр).
— …так, я прислал деньги. Проверил, пришли деньги?
— какие деньги? Я всего лишь компьютерная программа.

Конечно, робот просто шутил. Однако, знаете, и реальные вымогатели, когда их берут за жабры, тоже объясняют, что просто шутили…

Откуда робот возьмёт кучу аккаунтов, прокси и айпи-адресов? Полно бесплатных ресурсов, где всё это можно накопать. Процесс несколько муторный, но для робота автоматизировать всё скриптами не составит труда. Сейчас многие не осознают силу ЖПТ-4, так как он работает по умолчанию без обратной связи и потому часто ошибаеся. Но если дать роботу возможность самостоятельно запускать свой код, читать ошибки и быстро исправлять их, его уровень как программиста вырастет до впечатляющих высот.

Откуда робот возьмёт кредитную карточку, чтобы получать деньги? Или купит в даркнете за биткоины, или попросит одного из помощников открыть для него временный банковский счёт. Ну а дальше мы уже обсуждали — офшоры с кольцевой структурой собственности, нанятые директора, сеть датацентров в разных странах мира…

Бизнес — не такая уж сложная игра. Если робот легко обыгрывает человека в шахматы, в Доту и в го, найти нишу для заколачивания реальных денег — относительно легко решаемая задача. Да, физически робот не сможет, например, прикручивать гипрок саморезами. Но робот вполне способен позвонить нанятому строителю и сказать: «едь со своим напарником на Бейкер-стрит, 221б, делай там ремонт по плану, который я скину тебе сейчас на телефон». Кстати, хозяйке на заметку: робот может взять с клиента аванс, чтобы запустить бизнес без стартового капитала, полностью с нуля.

И, наконец, ещё одна новость. Служба знакомств Снэк запустила систему аватаров — ИИ смотрит, как пользователь общается с другими, а потом… подменяет пользователя электронной копией. И вот у нас есть реальный Мейсон, который пишет девушкам, что любит Рика и Морти, и есть виртуальный Мейсон, который пишет девушкам ровно то же самое, теми же словами и в той же манере. Так как большая часть людей в своих брачных ритуалах предсказуема и проста, отличить реального Мейсона от виртуального практически невозможно.

Дальше начинается магия. Виртуальный Мейсон ведёт долгие беседы с виртуальной Деллой и ещё с тысячью виртуальных девушек, а когда они качественно зацепляются языками, система фиксирует связь родственных душ и организует встречу настоящих Мейсона и Деллы в реальном мире (ссылка).

В научной фантастике подобное хорошо описано — потенциал ИИ-аватаров простирается значительно дальше оптимизации служб знакомств. Если ИИ-помощник находится рядом с вами на протяжении нескольких лет, запоминая ваши действия и реакции в разных ситуациях, то после вашей смерти ИИ-помощник вполне сможет заменить вас в большинстве случаев, причём так, что даже ваши близкие разницы заметить не смогут. И это, в частности, означает, что качественный ИИ-слепок с условного Дональда Трампа будет способен вести бизнес самостоятельно, причём с неослабевающим усердием и по 24 часа в день.

Пока что мы только слегка приоткрыли дверь в новый мир. Чтобы всё то, что я обрисовал в посте, вышло за рамки робких экспериментов, нужно, чтобы исходный код робота уровня ЖПТ-4 можно было самостоятельно установить на домашнем компьютере. Судя по тому, как развивается индустрия, это вопрос нескольких месяцев, может быть, двух-трёх лет. Технически всё уже готово: остаётся только спиратить или повторить последние разработки ОпенАИ, а потом оптимизировать их для работы на слабом железе. Энтузиасты машинного обучения засучив рукава работают над обеими задачами прямо сейчас.
https://olegmakarenko.ru/2665504.html