Двадцать пять ведущих математиков подписали открытое письмо, в котором утверждается, что лаборатории искусственного интеллекта ставят под угрозу их интеллектуальную деятельность, поскольку стремятся превзойти друг друга в решении известных математических задач. Каждый из подписавших письмо был удостоен медали Филдса, считающейся самой престижной наградой в области математики.
На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в том, что компания оказывала на него давление, требуя не указывать в качестве соавтора сотрудника компании Anthropic, участвовавшего в решении важной математической задачи, и выразил подозрение, что компания использовала их совместную работу над проектом Codex для получения собственного революционного доказательства в ходе марафонского уик-энда вывода.
В четверг OpenAI отозвала спонсорскую поддержку математического мероприятия в Калифорнийском технологическом институте (CalTech) после того, как компания подверглась критике со стороны исследователей этого университета.
Хотя способность моделей искусственного интеллекта решать нерешенные математические задачи мирового масштаба может стать благом для человечества, авторы нового письма утверждают, что это будет так только в том случае, если эти решения смогут быть поняты и донесены до математического сообщества и, в конечном итоге, до остального мира.
Часто эти решения объявляются в спешке, не оставляя времени на надлежащее изложение, выделение новых методов и идей, а также цитирование соответствующих предыдущих работ других авторов, пишут они — при этом доказательство OpenAI остаётся непроверенным. Как и во всех творческих профессиях, это поднимает серьёзные вопросы об авторстве и плагиате. Более того, без математиков, готовых взять на себя заботу об их развитии и интеграции в математический канон, идеи, зародившиеся в ИИ, никогда не обретут полноценную жизнь, а важнейшая цепочка передачи знаний между математиками будет утрачена.
Поскольку другие математики становятся все более настороженными и задаются вопросом, не было ли их использование Codex в свою очередь заложено в новые модели OpenAI, существует реальная опасность, что культура открытых исследований окажется под угрозой. Сегодня, если передовые лаборатории видят перспективный путь к открытию, они могут потратить десятки миллионов долларов на использование LLM, чтобы опередить первоначальных исследователей в получении доказательства — такая динамика будет стимулировать секретность.
Это письмо следует за Лейденской декларацией, опубликованной рабочей группой математиков в июне. В этом документе также рассматриваются способы, которыми доказательства с использованием LLM изменят их работу, и предлагается ряд рекомендаций для математиков, научных учреждений и политиков.
Как и в случае с разработкой программного обеспечения и другими областями, где инструменты ИИ меняют рабочие процессы, математики находят оправдание в самой работе: Ценность математики заключается не только в доказательствах и в том, кому достанется признание, но и в интеллектуальной надстройке, которая питает студентов, находит новые вопросы и идеи и интегрирует их в более широкий контекст человеческой цивилизации.
И если вас не особо волнует жестокий мир математических доказательств с высокими ставками, не забывайте: ваша сфера интересов — следующая на очереди.
Проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с проблемами, стоящими перед другими научными и творческими профессиями, и указывают на проблемы, с которыми может столкнуться всё человечество: как убедиться, что, по мере того как ИИ меняет способы выполнения работы, мы не упускаем из виду то, чего эта работа изначально должна была достичь, — пишут они.
Комментарии (0)