Стюарт Рассел: Сумісність. Як контролювати штучний інтелект

У масовій свідомості надлюдський штучний інтелект - технологічне цунамі, яке загрожує не тільки економіці і моральним нормам, а й самій цивілізації. Конфлікт між людьми і машинами бачиться невідворотним, а його результат визначеним наперед. Видатний дослідник ШІ Стюарт Рассел стверджує, що цей сценарій можна уникнути.

У своїй новаторській книзі автор розповідає, яким чином люди вже навчилися використовувати ШІ, в діапазоні від смертельної автономної зброї до маніпуляцій нашими уподобаннями, і чому ще зможуть його навчити. Якщо це трапиться і з'явиться надлюдський ШІ, ми зіткнемося з сутністю, набагато могутнішою, ніж ми самі. Як гарантувати, що людина не виявиться в підпорядкуванні у надінтелекту?

Для цього, вважає Рассел, штучний інтелект повинен будуватися на нових принципах. Машини повинні бути скромними і альтруїстичними і вирішувати наші завдання, а не свої власні.

Про те, що це за принципи і як їх реалізувати, читач дізнається з цієї книги, яку найавторитетніші видання у світі назвали головною книгою про штучний інтелект. Все, що може запропонувати цивілізація, є продуктом нашого інтелекту; набуття доступу до істотно перевершуючих інтелектуальних можливостей стало б найбільшою подією в історії. Мета цієї книги - пояснити, чому воно може стати останньою подією цивілізації і як нам виключити такий результат.

Введення поняття корисності - невидимої властивості - для пояснення людської поведінки за допомогою математичної теорії було приголомшливим для свого часу. Тим більше що, на відміну від грошових сум, цінність різних ставок і призів з точки зору корисності недоступна для прямого спостереження.

Першими, хто дійсно виграє від появи роботів в домі, стануть старі й немічні, яким корисний робот може забезпечити певний ступінь незалежності, недосяжний іншими засобами. Навіть якщо робот виконує обмежене коло завдань і має лише зародкове розуміння того, що відбувається, він може бути дуже корисним.

Очевидно, дії лояльних машин повинні будуть обмежуватися правилами і заборонами, як дії людей обмежуються законами і соціальними нормами. Деякі фахівці пропонують в якості рішення безумовну відповідальність.