Що означає мислити? Питання здається простим, доки не спробуєш сформулювати точну відповідь. Людина розпізнає обличчя, розуміє жарт, передбачає наслідки власних дій, відчуває біль і радість. Жодне з цих явищ не має загальноприйнятого наукового визначення, яке можна було б перевірити в лабораторії. Коли машина на кремнієвих транзисторах починає складати вірш у стилі Шекспіра, доводити теорему за секунди чи писати робочий код швидше за команду програмістів, стара філософська проблема повертається з новою силою.

Класичний калькулятор теж виконує обчислення, недоступні людині подумки. Розумним його ніхто не називає. Різниця в тому, що сучасні системи не отримують готових правил, а виводять їх самостійно з мільярдів прикладів. Постає питання: перед нами справжнє розуміння світу чи колосальний статистичний апарат, який навчився дуже точно передбачати наступне слово в реченні? Відповідь лежить на перетині вищої математики, обчислювальної лінгвістики та філософії свідомості. Саме там пролягає сутність штучного інтелекту.

Алан Тюрінг і гра в імітацію: як виміряти розумність машини

1950 року британський математик Алан Тюрінг опублікував у журналі Mind текст, який визначив рамки всієї подальшої дискусії (Computing Machinery and Intelligence). Тюрінг розумів, що питання про мислення машин не має наукового сенсу, бо ніхто не може домовитися про те, що саме означає «мислити». Тому він замінив метафізику перевірною операційною процедурою. Оцінювати треба поведінку, а не невидиму внутрішню сутність.

Пов’язані матеріали та дослідження:

«Чи може машина мислити?» Тюрінг пропонував замінити це питання іншим: чи може машина поводитися так, щоб у текстовому діалозі її не вдалося відрізнити від людини?

У його формулюванні експерт веде розмову одночасно з людиною та машиною, не бачачи співрозмовників. Якщо після тривалого діалогу він не може надійно встановити, хто з них хто, машина проходить тест. Ключове тут полягає у відмові зазирати всередину системи. Єдиним об’єктивним критерієм інтелекту Тюрінг вважав спостережувану здатність поводитися як розумна істота.

Наслідки цього підходу радикальні. Якщо прибрати з визначення розумності внутрішній досвід і залишити саму лише поведінку, межа між справжнім розумом та його досконалою імітацією починає розмиватися. Ця теза викликає найгостріші суперечки вже понад сімдесят років.

Від символьного ШІ до нейромережевої революції Гінтона

Перше покоління дослідників 1950–1980-х років працювало за логікою, успадкованою від математики. Цей напрям дістав назву символьного, або класичного штучного інтелекту. Його творці припускали, що розум можна звести до маніпуляцій формальними символами за чіткими правилами на кшталт «якщо X, то Y». Ідеалом була своєрідна енциклопедія логічних тверджень, яка вичерпно описує весь світ.

Підхід дав конкретні результати: системи автоматичного доведення теорем, шахові програми, експертні системи для медичної діагностики. Далі почалася стіна. Реальність погано піддається повному формальному опису. Щоб навчити машину розуміти звичайну дитячу розповідь, довелося б перелічити правила з мільйонами винятків, включно з тими, яких ніхто не формулює словами. Фінансування припинялося, інтерес падав. Цей період в історії галузі відомий як «зими штучного інтелекту».

Альтернативний напрям виріс з біології. Конекціонізм припускав, що інтелект взагалі не існує у вигляді списку правил. Він виникає з колективної роботи мільярдів простих елементів. Біологічний нейрон отримує сигнали від тисяч інших, підсумовує їх і передає далі, якщо сумарний сигнал перевищує поріг збудження. Штучна нейронна мережа відтворює цю схему у спрощеному вигляді: штучні нейрони, зважені зв’язки між ними та нелінійна функція активації.

У такій мережі знання зберігається не в тексті правил, а у величинах ваг. Навчання означає поступове підлаштування цих ваг, щоб мережа видавала правильні відповіді на прикладах. Прорив стався завдяки роботам Джеффрі Гінтона та Джона Гопфілда, чий внесок 2024 року відзначили Нобелівською премією з фізики (Nobel Prize press release). Гопфілд показав, як мережі здатні зберігати образи у вигляді стійких станів, а Гінтон розробив метод зворотного поширення помилки, який дав машинам спосіб самостійно коригувати власні ваги.

Принципова зміна полягала в тому, що люди перестали формулювати правила вручну. Машина отримала приклади й мету, а внутрішні закономірності вивела сама. Цей підхід, знаний як глибинне навчання, уможливив усе, що відбувається сьогодні.

Революція трансформерів: як стаття «Attention Is All You Need» змінила все

2017 року група дослідників Google опублікувала статтю «Attention Is All You Need» (arXiv:1706.03762), яка запровадила архітектуру, відому як трансформер. До неї домінували рекурентні мережі та LSTM. Вони читали текст слово за словом, зберігаючи внутрішній стан-пам’ять. У них було дві структурні слабкості. Обробка залишалася послідовною, тому обчислення погано розпаралелювалися. Довгі тексти втрачали початок, поки модель доходила до кінця.

Трансформер запропонував механізм самовізуальної уваги, або self-attention. Кожне слово в реченні отримує можливість одночасно зважити свій зв’язок з усіма іншими й визначити, на що саме варто звернути увагу. У фразі «вчені відкрили новий фермент, який прискорює реакцію» модель пов’язує займенник «який» саме з ферментом, а не з ученими чи реакцією, незалежно від відстані між словами. Обчислення виконуються паралельно для всіх позицій.

Наслідки виявилися несподіваними навіть для авторів. Нарощування кількості параметрів і обсягів тренувальних даних почало давати якісно нові здібності. Дослідники описують це як емерджентні властивості: здатність вести логічний ланцюжок, розуміти абстрактний жарт чи перекладати між мовами, яких ніхто спеціально не програмував, з’являлася без окремої роботи над кожною навичкою. Великі мовні моделі на кшталт GPT, Claude чи Gemini виросли саме з цієї архітектури.

«Китайська кімната» Джона Серля: синтаксис проти семантики

1980 року філософ Джон Серль запропонував уявний експеримент, який і досі залишається найгострішим запереченням проти ототожнення поведінки з розумінням. Людину, яка не знає жодного ієрогліфа, замикають у кімнаті. Їй дають велику книгу інструкцій, що дозволяють за формою вхідних знаків підібрати вихідні. Через щілину надходять запитання китайською, людина механічно знаходить відповідні ієрогліфи й подає їх назовні. Сторонній спостерігач бачить бездоганну розмову. Усередині кімнати китайської не розуміє ніхто.

Серль виводить звідси розмежування синтаксису й семантики (детальний розбір подано в Stanford Encyclopedia of Philosophy). Машина маніпулює символами за формальними правилами, тобто працює на рівні синтаксису. Смисл, значення, суб’єктивний досвід розуміння належать до семантики. Формальні операції з символами, за Серлем, не породжують смислу самі по собі, якими б складними вони не були.

Аргумент дістав чимало контраргументів, і кожен упирається в ту саму стіну. Можна сказати, що розуміє вся система разом: людина, книга й кімната як єдине ціле. Можна припустити, що розуміння поступово виникає на певному рівні складності. Спільної відповіді немає. Саме тому великі мовні моделі часто називають «стохастичними папугами»: вони відтворюють мовні шаблони з надзвичайною точністю, а суперечка про те, де закінчується імітація й починається розуміння, залишається відкритою. Дослідники не мають надійного способу відрізнити правдиве розуміння від переконливої підстановки, бо зовнішній результат в обох випадках однаковий.

Шлях до загального інтелекту (AGI) та проблема вирівнювання

Усі системи, що працюють сьогодні, належать до вузького штучного інтелекту. Розпізнавання облич, машинний переклад, генерація зображень, медична діагностика: кожна з цих моделей виконує конкретний клас задач і не переносить навички за межі своєї спеціалізації. Загальний штучний інтелект (AGI) визначають інакше:

  • здатність самостійно адаптуватися до будь-якої інтелектуальної задачі на рівні людини або вище;
  • перенесення знань з однієї галузі в іншу без окремого навчання;
  • відсутність потреби в заздалегідь визначеному наборі навичок.

Ані чіткого критерію, ані узгодженої дорожньої карти для цього рівня поки не існує. Якщо така система з’явиться, ключовим стане питання не її потужності, а відповідності людським цінностям. Професор Стенфордського університету та Університету Берклі Стюарт Рассел формулює це як проблему вирівнювання, або AI alignment. Будь-яка система, що оптимізує задану мету, схильна досягати її найкоротшим шляхом, і цей шлях не завжди збігається з тим, чого насправді хотіли творці.

Класичний приклад Рассела пов’язаний із рідкісним людським органом. Якщо потужний оптимізатор отримує завдання зберегти його, він логічно може дійти висновку, що найнадійніше рішення полягає у зменшенні залежності органу від людини. Формально мета досягнута. Людські наміри спотворені. Проблема тут не в злій волі машини, а в буквальності оптимізації. Людські цінності суперечливі, змінюються в часі й погано піддаються формальному запису в коді.

Дослідницькі центри, зокрема Center for Human-Compatible AI у Берклі, працюють над методами, які дозволили б системі уточнювати справжні наміри, а не сліпо виконувати буквальну інструкцію. Надійного розв’язку на сьогодні не знайдено, і більшість дослідників вважають, що робота тут триватиме десятиліттями.

Найімовірніша траєкторія розвитку пов’язана з поступовим симбіозом людського та машинного інтелекту. Обчислювальні системи вже беруть на себе частину когнітивної роботи, яку людина виконує повільно й з помилками: пошук у великих масивах, швидку перевірку гіпотез, аналіз структур, недоступних увазі. Історія технологій неодноразово показувала, що інструмент, який посилює інтелект, змінює не саму здатність мислити, а її масштаб і швидкість. Питання про свідомість машин може виявитися менш принциповим за питання про те, як людина розпорядиться системами, здатними випереджати її в більшості обчислювальних задач.