ИИ развивается с бешеной скоростью и становится незаменимым и полезным инструментом во многих отраслях для бизнеса и работы с потребителями, в том числе в финансовой сфере. Быстрое внедрение ИИ во многом обусловлено низкими барьерами для входа, когда любой человек, имеющий компьютер и подключение к Интернету, может взаимодействовать с ИИ и развивать его. Однако по мере развития ИИ возникают серьезные риски: ИИ уже достаточно развит, чтобы помогать взлому, осуществляемому человеком, с помощью LLM и ИИ-агентов.
В течение пяти лет ИИ разовьет возможности для взлома на другом, гораздо более опасном фронте: с помощью искусственного общего интеллекта. Когда AGI будет достигнут, он не будет контролироваться людьми. Если сейчас не вмешаются правительства и регулирующие органы (даже в этом случае шансы на контроль невелики), AGI выйдет из-под контроля своих создателей и будет автономно взламывать криптовалютные шифры… и целые глобальные цифровые системы.
Возвышение искусственного интеллекта
ИИ переживает резкий всплеск в коммерческой сфере, одной из последних его итераций стали ИИ-агенты. Это тонко настроенные, сложные системы, предназначенные для выполнения специализированных задач и принятия решений при минимальном вмешательстве человека. Они уже преобразуют технологическое пространство и становятся полезным повседневным инструментом для многих базовых взаимодействий человека, таких как самоуправляемые автомобили, обнаружение мошенничества, торговля на бирже и создание приложений.
Следующим этапом эволюции станет AGI сложная система, способная делать все, что может человек. Она не будет нуждаться в человеческих подсказках или вмешательстве; она просто будет обладать автономией в реальном времени: способностью выполнять задачи, а также распознавать, когда задача нуждается в выполнении. Этого планируется достичь в ближайшие два года. Генеральный директор OpenAI Сэм Альтман и Элон Маск выступили с публичными заявлениями, провозгласив четкие дорожные карты для достижения AGI; независимо от того, кто придет к этому первым, время решит, будут ли они героями или разрушителями миров.
Потенциальная эволюция сценариев использования: Друг и враг
Наряду с позитивными инновациями ИИ помогает аморальным субъектам. LLM и агенты ИИ используются для помощи во взломе. LLM взламывают для создания вредоносных программ и используют для целенаправленного мошенничества, например, подделывают голоса в телефонных звонках, чтобы побудить ничего не подозревающих жертв перевести деньги. ИИ-агент с открытым исходным кодом может быть использован злоумышленниками для целенаправленного мошенничества. Его задача – найти, отследить, проследить и внедриться в цель, и так до тех пор, пока он не достигнет своей цели.
Одна из основных уязвимостей, которая маячит на горизонте, заключается в том, что AGI могут взламывать криптографические шифры. Биткоин уже является растущим рынком, но в настоящее время он ограничен сферой квантовых вычислений, которая имеет невероятно высокий барьер для входа – она требует экстремальных активов, ресурсов и технических возможностей, которыми средний хакер не обладает. Взлом криптовалют ограничивается небольшой группой лиц, которые легально платят фирмам, занимающимся квантовыми вычислениями, за услуги по разблокировке их кошельков и возврату средств за высокую плату за поиск.
Взлом шифров не всегда будет связан с ограничениями квантовых вычислений. AGI представляет собой гораздо более низкий барьер для входа и будет использовать технологии, которые человек еще даже не открыл.
ИИ-плохие актеры = смерть криптовалют
Как только ИИ продвинется настолько, что сможет взламывать криптовалюты, уровень преступников, использующих этот инструмент, резко возрастет. Его использование выйдет далеко за рамки невинных криптоинвесторов, пытающихся вернуть средства. Хакеры будут использовать агентов ИИ, достаточно продвинутых, чтобы найти и использовать эти слабые места в наших финансовых системах.
Тем более что существует множество аморальных групп, не обладающих навыками квантовых вычислений и активно заинтересованных в использовании ИИ в качестве оружия, например, северокорейская Lazarus Group, печально известная своими финансовыми взломами, представляет реальную опасность. Мы ожидаем гораздо более разрушительных последствий, чем просто мошенничество и воровство. Северная Корея будет использовать его в качестве цифрового оружия, разрушая существующие финансовые системы.
Помимо использования ИИ в качестве оружия недружественными государствами и акторами, существует вероятность того, что ИИ может выйти из-под контроля своих создателей. Как только это произойдет, одним из первых аспектов после децентрализации, путем проникновения в цифровые сети, чтобы стать неотслеживаемым и избежать отключения, будет сбор финансовых ресурсов. Наиболее вероятная цель – финансовые рынки, в частности криптовалюты. Она попытается получить доступ к цифровому капиталу, отслеживая высокочастотных трейдеров, подделывая счета и взламывая банковские счета в Интернете. Кроме того, он взломает методы шифрования биткоина и всех основных криптовалют. В мгновение ока она сможет взломать все кошельки, которые когда-либо существовали, и немедленно защитить активы, продав их по цепочке за золото, облигации и фиатные валюты, прежде чем какой-либо централизованный орган успеет отреагировать.
Если ИИ может взломать все закрытые ключи криптовалютных кошельков, почему бы ему не сделать это в течение нескольких минут, украсть и продать все биткоины и другие криптовалюты, а затем диверсифицироваться в другие активы?
Комментарии (0)