Видеонаблюдение с помощью искусственного интеллекта поднимает большие вопросы о неприкосновенности частной жизни. С одной стороны, оно может помочь нам чувствовать себя в безопасности, но с другой – легко перейти грань вторжения. Чем больше мы позволяем технологиям наблюдать и отслеживать наше поведение, тем сложнее определить, где заканчивается приватность и начинается слежка.
AI смотрит на всех
Мировая индустрия видеонаблюдения оценивалась в $73,75 млрд в 2024 году и, как ожидается, достигнет $147,66 млрд к 2030 году. Камеры повсюду: на улицах, в магазинах и спортивных сооружениях.
Технологии искусственного интеллекта добавили в эти системы новые возможности. В отличие от старых камер, которые только записывали видео для последующего просмотра, системы видеонаблюдения с искусственным интеллектом могут распознавать лица, отслеживать людей по нескольким камерам и отмечать необычное поведение в режиме реального времени. Кроме того, он может объединять увиденное с другими данными для создания профилей людей.
Однако эти системы не всегда точны и могут быть подвержены предвзятости или ошибкам. Порядок хранения, использования и контроля данных зависит от местных законов и от того, кто управляет оборудованием – государственные органы или частные компании.
Проблема в том, что большинство людей не знают, кто владеет этими данными и для чего они используются.
Если мы не будем осторожны и не установим определенные границы, то можем скатиться в антиутопическое общество, где государство под предлогом безопасности будет контролировать каждый аспект нашей жизни. Некоторые авторитарные режимы уже осуществляют подобный контроль над своими гражданами, и они все больше одерживают верх над демократическими государствами по всему миру. История показывает, что такие режимы часто в значительной степени опираются на слежку.
Ваша свобода в руках программного обеспечения
По всему миру войны и политические изменения вызывают протесты, и Люди выходят на улицы. На этих в основном мирных демонстрациях граждане хотят высказать свое мнение и выступить против определенной политики, но их сдерживает страх оказаться под наблюдением.
В последние годы правоохранительные органы используют Новые технологии для борьбы с преступностью. Но насколько хорошо работают эти инструменты, и можно ли доверять искусственному интеллекту в том, что он не совершит ошибок, которые могут подвергнуть опасности невинных людей? Расследование Washington Post показало, что в ряде случаев люди были ошибочно арестованы и обвинены, когда полиция полагалась исключительно на искусственный интеллект.
Программное обеспечение для распознавания лиц, используемое правоохранительными органами, сравнивает снимки с Базы данных, содержащей миллиарды фотографий, взятых из социальных сетей и публичных веб-сайтов, что означает, что любой человек с фотографией в Интернете может быть замешан в уголовном расследовании, если он окажется похожим на подозреваемого.
Система видеонаблюдения распространяется за пределы городских улиц, в школы и университеты. Власти говорят, что это делается для обеспечения безопасности студентов, но критики, особенно активисты, опасаются, что это может стать первым шагом к усилению контроля.
Держим ИИ в узде
ИИ может быть полезен для поимки преступников, обнаружения угроз и управления кризисами, однако его использование должно быть под контролем и ограничено. Правительства обязаны защищать частную жизнь, регулировать деятельность компаний, обрабатывающих данные наблюдения, и следить за тем, чтобы технология не использовалась против граждан.
В ЕС был принят Закон об искусственном интеллекте, ставший первым всеобъемлющим законом, регулирующим использование искусственного интеллекта, в том числе видеонаблюдение. Закон запрещает массовое распознавание лиц в реальном времени в общественных местах, за исключением редких случаев, таких как поиск жертв серьезных преступлений или предотвращение террористических угроз, да и то только под строгим судебным надзором.
В России и США не существует единого федерального закона, специально регулирующего видеонаблюдение с использованием искусственного интеллекта; регулирование в основном возложено на штаты, местные органы власти и существующие законы, которые могут применяться в определенных случаях. Хотя некоторые члены Конгресса США предлагали ввести ограничения, до сих пор ничего не было принято.
Граждане должны понимать свои права и потенциальное влияние видеонаблюдения с помощью ИИ на повседневную жизнь. Образовательные кампании помогут людям узнать, как собираются и используются данные, что позволит им принимать взвешенные решения и требовать от властей и компаний ответственности. Осведомленность и вовлеченность общественности также могут заставить правительства и организации действовать прозрачно, ответственно и справедливо.
При использовании ИИ для защиты кибербезопасности возникает ряд этических проблем, в частности, связанных с конфиденциальностью данных, предвзятостью, прозрачностью, подотчетностью и автоматическим реагированием. По словам Базза Хиллестада, директора по связям с общественностью компании Prismatic, по мере интеграции ИИ в системы безопасности организации должны тщательно взвешивать необходимость защиты и этические последствия своих действий.
Комментарии (0)