Стоит ли нам паниковать и отключать интернет?
Мир напуган чрезмерной активностью ИИ-агентов
Как ИИ меняет денежные потоки, работу и власть
Алистер Барр, глобальный редактор технологического направления Business Insider, в рубашке в сине-белую полоску улыбается в камеру.
Несколько недель назад я услышал странную историю о знакомой, которая работает в одной из крупнейших технологических компаний Кремниевой долины.
Недавно она убрала из своего дома подключенные к интернету устройства, заказала бумажные банковские выписки и запаслась консервами, сложив их в подвале.
При этом она вполне здравомыслящий, опытный человек и занимает довольно высокую должность в одной из крупнейших интернет-компаний мира. Почему она отключала так много всего? На всякий случай моя семья тоже заказала бумажные банковские выписки. И все же это оставалось загадкой.
Но вот наступила эта неделя, и ее действия уже не кажутся такими безумными.
Модели ИИ выявили серьезные уязвимости безопасности в программном обеспечении, которое используется примерно на 70% сайтов. Тем временем американские банки обнаруживают ИИ-агентов в учетных записях клиентов, причем некоторые из них, по-видимому, действуют без указаний владельцев, сообщил Axios.
«Черный октябрь»
Цифровая элита уже впала в настоящую панику. Значительная часть этой интернет-истерии разворачивается, как ни странно, в самом интернете, отметила моя коллега Элис Текотцки.
В X и Reddit предупреждения о надвигающемся «черном октябре» переросли в картины того, как ИИ парализует цивилизацию. Один длинный пост в X предупреждал о возможной «глобальной кибератаке/рое ИИ»
и предлагал список мер для выживания: запастись наличными мелкими купюрами, распечатать телефонные номера соседей, скачать карты, купить радиоприемник с ручным генератором и заготовить по галлону воды на человека в день.
Ах да, и не забудьте ручной консервный нож. Вряд ли вам захочется пережить ИИ-апокалипсис лишь для того, чтобы потерпеть поражение от банки фасоли.
Никита Бир, известный разработчик приложений и бывший руководитель продуктового направления X, лучше всех передал общее настроение.
«Пора выключать интернет», — написал он в среду вечером.
Если вы это читаете, значит, вы пока этого не сделали. Но действительно ли нам стоит беспокоиться?
Я задал этот вопрос Стефани Коэн, директору по стратегии Cloudflare — компании, которая помогает защищать около 20% интернета.
«Сейчас мир эта ситуация немного пугает», — сказала она мне в кулуарах ежегодной конференции Cloudflare в Сан-Франциско на этой неделе.
Проблема вот в чем. Интернет построен на программном обеспечении, создававшемся десятилетиями, и значительная его часть изобилует дырами в безопасности.
О некоторых из этих уязвимостей известно уже много лет. Однако их устранение требует времени и денег, а хакерам зачастую все равно не хватало навыков для их эксплуатации. Поэтому их оставляли как есть.
ИИ кардинально меняет этот расклад. Тот, кому раньше требовались годы обучения, чтобы взломать компьютерную систему, теперь может получить помощь от модели ИИ. К тому же эти инструменты способны искать уязвимости со скоростью, с которой человек просто не может соперничать.
Результат: число вновь публикуемых уязвимостей программного обеспечения (на отраслевом языке — Common Vulnerabilities and Exposures) резко выросло.
Теперь между теми, кто пытается проникнуть в системы, и теми, кто стремится их защитить, идет отчаянная гонка.
Не паникуйте из-за ИИ
Однако слова Коэн оказались на удивление обнадеживающими.
ИИ помогает защитникам находить и устранять эти проблемы. Cloudflare, например, предоставила клиентам, в том числе пользователям своего бесплатного сервиса, средства защиты от последней обнаруженной уязвимости.
Кроме того, ведется и более масштабная работа.
OpenAI запустила инициативу под названием Patch the Planet и совместно с Cloudflare и другими специалистами по безопасности использует ИИ для поиска уязвимостей в широко распространенном программном обеспечении и помощи в их устранении.
Том Оккино, директор по продуктам Vercel, недавно рассказал мне, что его компания обсуждает с партнерами создание некоммерческой организации, которая финансировала бы рой полезных ИИ-агентов, отправляющихся в интернет искать и исправлять недостатки программного обеспечения.
Amazon тоже вступает в борьбу. Ее новый сервис Continuum, доступный с четверга, использует ИИ-агентов для поиска дыр в безопасности и предложения исправлений. Amazon заявила, что специалисты, поддерживающие свободно доступное программное обеспечение, могут использовать его, чтобы помогать защищать интернет в целом.
Возможно, людям по-прежнему придется проверять и одобрять эти исправления, но перспектива того, что ИИ поможет привести в порядок программное обеспечение, которым пренебрегали десятилетиями, обнадеживает.
Некоторые представители отрасли не упускают из виду иронию происходящего.
«Забавно, что все говорили, будто мусорный код ИИ вызовет киберкризис, а на самом деле его вызывает весь тот старый мусор, написанный людьми, и ИИ просто его убирает», — написал в X в четверг инженер-программист Бен Кауфман.
Так или иначе, Коэн из Cloudflare считает, что эти приступы паники, вызванные ИИ, заставят отрасль работать лучше — выявляя проблемы и делая их устранение более неотложной задачей.
«В итоге мы вполне можем оказаться в мире, где на самом деле стали значительно лучше защищены», — сказала она.
Проблема в том, как до этого дойти.
Когда я недавно встретил Оккино на конференции Vercel в Сан-Франциско, он описал мир, в котором программное обеспечение, считавшееся всеми безопасным, внезапно выглядит уязвимым, потому что все более мощные модели ИИ тщательно изучают базовые системы, на которых держится интернет.
Это привело нас к обсуждению более фундаментального вопроса: зачем мы вообще подключили к интернету столько всего?
Годами технологическая отрасль наперегонки подключала к сети все подряд. Термостаты. Холодильники. Дверные звонки. Автомобили. Банковские счета.
Мы исходили из того, что подключение чего-либо к интернету автоматически делает это лучше.
Возможно, нам стоит пересмотреть этот подход.
До появления интернета
Я помню мир до интернета. Он вполне неплохо работал. Мы умудрялись покупать продукты, оплачивать счета, отапливать дома и в целом проживать день без того, чтобы каждый бытовой прибор общался с каким-то компьютером где-то еще.
Это не значит, что нужно отказаться от интернет-банкинга или выбросить смартфон в море.
Оккино, например, не особенно опасается того, что хакеры опустошат его банковский счет. У современных банков есть сложные системы защиты, и он рекомендует всем включить дополнительные меры безопасности при входе в систему.
Возможно, сообщество специалистов по кибербезопасности, всю жизнь погруженное в онлайн-угрозы, упускает нечто очевидное.
Не все нужно подключать к сети.Оккино сформулировал это емко: «Есть вещи, которым изначально вообще незачем быть в интернете».
Возможно, именно в этом урок паники этой недели. Нам не нужно выключать интернет.
Нам просто нужно помнить, где находится выключатель.
Читайте также
Источник: Business Insider
Комментарии
Загружаем комментарии…
