ШІ залишив клієнтів Amazon без доступу до сервісів: як алгоритм «зламав» систему

Технологічний гігант Amazon зіткнувся з непередбачуваними наслідками автоматизації: внутрішній інструмент на базі штучного інтелекту спровокував щонайменше два технічні збої в роботі хмарної платформи Amazon Web Services (AWS). Цей інцидент змусив частину персоналу засумніватися в доцільності настільки агресивного впровадження алгоритмів-програмістів у робочі процеси. Про це повідомляє видання Financial Times.

Як ШІ «видалив» систему

Найбільш показовий випадок стався в середині грудня, коли одна із систем AWS, що дозволяє клієнтам моніторити свої витрати на хмарні послуги, перестала працювати на 13 годин. За словами обізнаних джерел, причиною колапсу став фірмовий ШІ-інструмент для програмування під назвою Kiro. Інженери надали йому повноваження самостійно внести зміни до системи. Отримавши автономію, алгоритм дійшов висновку, що оптимальним шляхом розв'язання задачі буде радикальний крок — «видалити й заново створити середовище».

В офіційному звіті про інцидент компанія визнала факт збою, однак зазначила, що він мав «вкрай обмежений» характер і вплинув лише на один сервіс для користувачів на території материкового Китаю.

Людський фактор чи передбачувана помилка машини?

Це вже не перший подібний випадок. Працівники компанії розповіли журналістам про ще один нещодавній інцидент, коли використання ШІ призвело до перебоїв.

«За останні кілька місяців ми вже бачили щонайменше два збої в робочому середовищі. Інженери дозволили агенту штучного інтелекту розв'язати проблему без втручання. Збої були невеликими, але повністю передбачуваними», — зазначив один зі старших співробітників AWS.

Керівництво Amazon категорично не погоджується з тим, що проблема полягає в самій технології. У компанії переконані, що участь нейромережі була лише збігом обставин, а подібний колапс міг статися внаслідок ручного втручання чи використання будь-якої іншої програми.

«В обох випадках це була помилка користувача, а не помилка штучного інтелекту», — підкреслили в пресслужбі, додавши, що не бачать доказів того, ніби помилки трапляються частіше саме під час використання ШІ-інструментів. Також в Amazon запевнили, що другий інцидент взагалі не вплинув на клієнтські сервіси.

The post ШІ залишив клієнтів Amazon без доступу до сервісів: як алгоритм «зламав» систему appeared first on РИА СВ.