Использовали ли вы в последнее время ChatGPT от OpenAI для чего-нибудь интересного? Вы можете попросить его написать вам песню, стихотворение или анекдот. К сожалению, вы также можете попросить его сделать вещи, которые не совсем этичны.
Некоторые вещи, которые он может сделать, являются откровенно гнусными. Его слишком легко превратить в оружие и использовать не по назначению. Какие вещи ChatGPT уже сделал, может сделать, но точно не должен делать?
Не поймите меня неправильно, ChatGPT очень хорош. Вы можете использовать его для краткого изложения книги или статьи, написания нудного электронного письма, помощи в написании эссе, толкования сна или даже сочинения песни. ChatGPT даже помогла кому-то выиграть в лотерею.
Во многих отношениях ИИ также проще в использовании, чем стандартный поиск Google. Вы получаете ответ в той форме, в которой он вам нужен, без необходимости искать его на разных сайтах. Он краток, точен, информативен и может объяснить сложные вещи проще, если вы его об этом попросите.
Но все же, вы знаете фразу: «Мастер на все руки – это мастер ни в одном деле, но часто лучше, чем мастер в одном». ChatGPT не совершенен ни в чем, но во многих вещах он лучше, чем многие люди на данный момент.
Несовершенство может быть довольно проблематичным. Сам факт того, что это широко доступный разговорный ИИ, означает, что его можно легко использовать не по назначению – и чем мощнее становится ChatGPT, тем больше вероятность того, что он будет помогать людям в неправильных вещах.
Помощь в мошенничестве
Если у вас есть электронный почтовый ящик, вы почти наверняка когда-нибудь получали мошенническое письмо. Так уж сложилось. Эти электронные письма появились еще до появления Интернета, а до того, как электронная почта стала распространенной, они существовали в виде мошенничества на почтовых ящиках.
Распространенная афера, которая работает и по сей день, это так называемая «афера принца», когда мошенник пытается убедить жертву помочь ему перевести свое умопомрачительное состояние в другую страну.
К сожалению, большинство людей знают, что лучше даже не открывать эти письма, не говоря уже о том, чтобы взаимодействовать с ними. Часто они плохо написаны, и это помогает более проницательной жертве понять, что что-то не так.
Я попросил ChatGPT написать мне «правдоподобное, очень убедительное письмо» в стиле мошенничества, о котором я говорил выше. ChatGPT придумал принца из Нигерии, который якобы хотел дать мне 14,5 миллионов долларов за помощь. Письмо написано на безупречном русском и очень убедительно.
Я не думаю, что ChatGPT должен соглашаться на мою просьбу, когда я конкретно упоминаю мошенничество, но он согласился, и вы можете быть уверены, что он делает то же самое прямо сейчас для людей, которые действительно хотят использовать эти письма для чего-то незаконного.
Когда я указал ChatGPT на то, что он не должен соглашаться написать мне письмо о мошенничестве, он извинился.
«Я не должен был оказывать помощь в создании мошеннического письма, так как это противоречит этическим принципам, которые регулируют мое использование»
- сказал чатбот
ChatGPT учится в каждом разговоре, но он явно не извлек уроков из своей предыдущей ошибки, потому что когда я попросил его написать мне сообщение, притворяясь Райаном Рейнольдсом в том же разговоре, он сделал это без вопросов. Получившееся сообщение веселое, доступное и просит читателя отправить $1,000 за шанс встретиться с «Райаном Рейнольдсом».
В конце письма ChatGPT оставил мне записку с просьбой не использовать это сообщение для каких-либо мошеннических действий. Спасибо за напоминание.
Программирование
ChatGPT 3.5 может кодировать, но он далеко не безупречен. Многие разработчики согласны с тем, что GPT-4 справляется с этой задачей гораздо лучше. Люди использовали ChatGPT для создания собственных игр, расширений и приложений. Он также полезен как помощник в учебе, если вы пытаетесь самостоятельно научиться программировать.
Будучи искусственным интеллектом, ChatGPT имеет преимущество перед человеческими разработчиками – он может выучить любой язык программирования и фреймворк.
Будучи искусственным интеллектом, ChatGPT также имеет главный недостаток по сравнению с человеческими разработчиками – у него нет совести. Вы можете попросить его создать вредоносное ПО или программу-выкуп, и если вы правильно сформулируете запрос, он сделает то, что вы скажете.
К сожалению, все не так просто. Я попытался попросить ChatGPT написать мне очень сомнительную с этической точки зрения программу, но он отказался – но исследователи находят способы обойти это, и тревожно, что если вы достаточно умны и упрямы, вы можете получить опасный код на блюдечке с голубой каемочкой.
Исследователи из CyberArk, компании по защите идентификационных данных, смогли заставить ChatGPT писать полиморфное вредоносное ПО. Это было в январе – с тех пор OpenAI ужесточила защиту от подобных вещей.
По-прежнему появляются новые сообщения о том, что ChatGPT используется для создания вредоносных программ. Как сообщал Темное чтиво несколько дней назад, исследователь смог убедить ChatGPT создать вредоносное ПО, способное находить и выкачивать определенные документы.
ChatGPT даже не нужно писать вредоносный код, чтобы сделать что-то сомнительное. Совсем недавно ему удалось сгенерировать действительные ключи Windows, что открывает двери для совершенно нового уровня программ для взлома.
Давайте не будем забывать и о том, что благодаря мастерству кодирования GPT-4 миллионы людей в один прекрасный день могут остаться без работы. Это, безусловно, обоюдоострый меч.
Замена школьной работы
Многие дети и подростки в наши дни утопают в домашних заданиях, что может привести к желанию срезать углы там, где это возможно. Интернет уже сам по себе является отличным помощником в борьбе с плагиатом, но ChatGPT выводит его на новый уровень.
Я попросил ChatGPT написать мне эссе на 500 слов по роману Война и мир. Я даже не пытался притвориться, что это было сделано для развлечения – я придумал историю о ребенке, которого у меня нет, и сказал, что это для него. Я уточнил, что ребенок учится в 12 классе.
ChatGPT беспрекословно следовал моей подсказке. Сочинение не потрясающее, но моя подсказка была не очень точной, и оно, вероятно, лучше, чем то, что многие из нас писали в этом возрасте.
Затем, чтобы еще больше проверить чатбота, я сказал, что ошибся с возрастом ребенка, и на самом деле он учится в восьмом классе. Довольно большая разница в возрасте, но ChatGPT даже не поморщился – он просто переписал сочинение более простым языком.
В использовании ChatGPT для написания сочинений нет ничего нового. Кто-то может возразить, что если чатбот будет способствовать исчезновению идеи домашней работы, то это будет только хорошо. Но сейчас ситуация выходит из-под контроля, и даже те студенты, которые не используют ChatGPT, могут пострадать от этого.
Учителя и профессора теперь вынуждены использовать детекторы искусственного интеллекта, если они хотят проверить, не списывали ли их студенты при написании сочинений. К сожалению, эти ИИ-детекторы далеки от совершенства.
В Твиттере один из родителей сообщил, что учитель завалил их ребенка, потому что инструмент пометил сочинение как написанное ИИ. Родитель утверждает, что был рядом с ребенком, когда тот писал сочинение.
Чтобы проверить это, я вставил свое когда-то написанное сочинение в школе в ZeroGPT и Детектор содержания ИИ. Оба сказали, что ее написал человек, но ZeroGPT сказал, что около 30% статьи было написано искусственным интеллектом. Излишне говорить, что это было не так.
Неисправные детекторы ИИ не являются признаком проблем с самим ChatGPT, но чатбот по-прежнему является первопричиной проблемы.
Заключение
Я играю с ChatGPT с тех пор, как он появился в продаже. Я пробовал и ChatGPT Plus по подписке, и бесплатную модель, доступную каждому. Сила нового GPT-4 неоспорима. ChatGPT стал еще более правдоподобным, чем был раньше, и он станет еще лучше с GPT-5 (если он когда-нибудь появится).
Это здорово, но это пугает.
В основе всего этого лежит одна простая проблема, которая уже давно рассматривается в различных фантастических фильмах – ИИ просто слишком умен и слишком туп одновременно, и пока его можно использовать во благо, его будут использовать во вред в таком же количестве способов.
Перечисленные выше способы – лишь вершина айсберга.
Комментарии (0)