Обдурити штучний інтелект - легко

Рік тому, в якості експерименту, китайські дослідники вирішили розвінчати міф про досконалість гордості американського автопрому - автомобіль Tesla. І, в принципі, їм вдалося довести, що застосувавши знаючи що, знаючи як, і знаючи де, можна обдурити штучний інтелект.

Успіх їхнього підступного плану був прогнозованим, так як це були не просто китайські хлопці з вулиці, а фахівці лабораторії безпеки китайського технологічного гіганта Tencent.

Так, ось, ці хлопці непомітно змінювали дані, що надходять на датчики автомобіля. Як виявилося, збити автомобіль з пантелику - простіше простого, якщо знати, що робити.

В одному з експериментів розмітка смуги руху на дорозі була злегка змінена так, щоб змусити автономну систему водіння виїхати на смугу зустрічного руху.

Алгоритми Тесли, як правило, прекрасні у виявленні крапель дощу на лобовому склі або проходженні по дорожнім доріжках, але вони працюють таким чином, який принципово відрізняється від людського сприйняття.

Це робить такі алгоритми «глибокого навчання», які швидко проникають в різні галузі для таких додатків, як розпізнавання образів і діагностика раку, на подив уразливими, якщо ви знайдете їх слабкі місця.