Искусственный интеллект сможет положить интернет, дайте только время

[5cek]

Интернет становится местом ожесточенной резни, и Илон Маск говорит, что продвинутый искусственный интеллект может усугубить эту резню еще больше. В Твиттере Маска появилось сообщение, что системы, которые поддерживают Интернет в работе, уязвимы к обычным грубым компьютерным атакам — а в этой области искусственный интеллект уже преуспел.


21 октября неизвестная группа хакеров отключила часть Интернета в Соединенных Штатах и Европе массивной DoS-атакой. Хакеры использовали массивный ботнет — сеть связанных компьютеров, способных выполнять согласованные функции — простых устройств «Интернета вещей», чтобы перегрузить сервера Dyn Systems, которая обеспечивает DNS-обслуживание гигантскому числу сайтов, включая Spotify, Twitter, Netflix и Reddit. Считается, что атаку выполнила группа людей или один человек, которая подключила и скоординировала ботнет. Но в будущем, как говорит Маск, массивные DDoS-атаки могут проводиться силами ИИ и сеять хаос в инфраструктуре, которая поддерживает нас на цифровых ногах.

29 октября Economist опубликовал статью под названием «Кто-то учится ронять Интернет», в которой изучил феномен растущего числа DDoS-атак и почему мы так плохо с ними справляемся. Маск ответил на статью и добавил пугающий прогноз: однажды этим «кем-то» будет не человек, а продвинутый ИИ.

С этого момента все становится сложнее. На данный момент цифровые атаки вроде тех, что используют хакеры для выведения из строя веб-сайтов, как правило, управляются людьми. Но по мере того, как ИИ становится все лучше и лучше, хакеры начнут использовать его для оптимизации атак на инфраструктуру Интернета, которая «особенно уязвима» для так называемого «алгоритма градиентного спуска». Градиентный спуск — это математический процесс, который берет сложную функцию и находит наиболее оптимальное решение. ИИ прекрасно справляется с градиентным спуском, что делает его особенно эффективным в возможном деле организации массивных DDoS-атак с использованием плохо защищенных устройств «Интернета вещей».

Но если обе стороны (хакеры и кибербезопасность) будут использовать продвинутый ИИ, Маск говорит, что это может привести к разборкам ИИ против ИИ на поле битвы.

Маск открыто выступает против нерегулируемого развития искусственного интеллекта. Он не против этой технологии в целом, но считает, что попытки сделать умных роботов должны быть открытыми и прозрачными, чтобы не допустить распространения гоняющихся за прибылью корпораций, которые развяжут руки ИИ. Появление разумных компьютеров неизбежно, но нужно убедиться, что они будут безопасны.

Comments

[livejournal.livejournal.com]

Здравствуйте! Ваша запись попала в топ-25 популярных записей LiveJournal для Украины. Подробнее о рейтинге читайте в Справке (https://www.dreamwidth.org/support/faqbrowse?faqid=303).

[slavrik.livejournal.com]

Не думаю, что уважающий себя ИИ будет страдать такой школотой как DDoS-атаки

[olaff67.livejournal.com]

хуже того - вряд ли он будет иметь представление о страдании.

[5cek.livejournal.com]

здесь не идет речь о сильном ии, который уже сам по себе будет личностью, речь идет, грубо говоря, об использовании продвинутых нейронных сетей для поиска и эксплуатации уязвимостей.

[slavrik.livejournal.com]

это больше похоже на вирус с элементами ии, управляемый человеком. ии думаю будет вести себя скрытно и элегантно, в этом и смысл интеллекта.

[dom3d.livejournal.com]

Маск не подумал, что ИИ будет также бороться с DoS-атакой.

Уродов, которые гадят меньше чем нормальных программистов.

[5cek.livejournal.com]

меньше, только вот армия писателей антивирусов до сих пор не изобрела панацеи от вирусов, так что вопрос кто сильнее остается открытым.

[dom3d.livejournal.com]

Я думаю, что панацеи от вирусов нельзя создать.
И потому на каждый новый вирус нужен новый антивирус.
Или закрывать ОС систему для внешнего доступа.

[5cek.livejournal.com]

панацеи в полном смысле слова может и нельзя, но осложнить действия злоумышленникам настолько, чтобы отсечь 90% т.н. "вирусов" - запросто. в том же линухе очень надо постараться, чтобы глобально навредить, а ведь есть варианты дистрибутивов, где любой софт запускается от отдельного пользователя в отдельном пространстве и имеет право на запись только туда, куда сказано. конечно, остаются уязвимости, но они при обнаружении закрываются более-менее оперативно. так что если не панацея, то почти панацея довольно близка, главное уничтожить недоразумение в виде windows и не дать возможность пользователю соглашаться со всем, о чем его прочит программа :)

[dom3d.livejournal.com]

На счет уродской windows Вы правы на 100%.