Кой, кога и с какво научно основание реши, че един алгоритъм е интелигентен? Нима математическите изчисления внезапно придобиха разум, а ние пропуснахме историческия момент? Или просто някой намери достатъчно внушително име за технология, която днес се продава като новия връх на човешката цивилизация? Признавам, маркетинговият ход е забележителен. Наричаш една изчислителна система интелигентна, научаваш я да генерира убедителни отговори и не след дълго милиони хора започват да разговарят с нея като с мислещо същество. Още по-любопитното е, че същите тези хора понякога приемат генерирания отговор за доказателство, че машината разбира въпроса. Колко удобно! Вече не е необходимо да доказваме наличието на интелект. Достатъчно е да създадем убедително впечатление за него.
Историята обаче е далеч по-интересна от рекламните лозунги. През 1955 година Джон Маккарти и негови колеги предлагат изследователски проект, в който използват названието Artificial Intelligence. Година по-късно конференцията в Дартмут поставя началото на научно направление, чиято амбиция е да изследва възможността определени аспекти на ученето и интелигентното поведение да бъдат описани достатъчно точно, за да бъдат възпроизведени от машина. Забележете разликата. Става дума за научна хипотеза и изследователска програма, а не за удостоверение, че алгоритмите притежават човешко разбиране, съзнание или способност за самостоятелно разсъждение. Но някъде по пътя между научните лаборатории, технологичните корпорации и рекламните кампании тази разлика започна подозрително да избледнява. Науката постави въпроса дали машините могат да проявяват интелигентно поведение. Маркетингът побърза да ни съобщи, че вече са интелигентни.
И тук започва голямото приключение и истински интересната част. Като лингвист и програмист аз прекрасно разбирам разликата между обработването на езикови структури, изчисляването на вероятности и човешкото осмисляне на информацията. Един езиков модел може да генерира граматически безупречно изречение, да имитира аргументация и да предложи решение на сложна задача. Но дали това означава, че притежава разбиране в човешкия смисъл? Дали убедителният езиков резултат доказва наличие на мислене, или показва колко лесно ние приписваме мисловни способности на система, която демонстрира определено поведение? И най-вече, кой печели от това терминологично объркване? Защото когато една технология получи име, което внушава интелигентност, тя придобива не само научна идентичност, но и огромно пазарно предимство. А аз продължавам да се питам кое е по-впечатляващо: способността на машината да генерира отговори или готовността на човека да приеме, че зад тях непременно стои мислещ разум?
Кой даде на алгоритъма титлата интелигентен?
Науката поставя въпроси, изследва хипотези, проверява резултати и признава ограничения. Маркетингът, изглежда, е решил да прескочи няколко от тези досадни етапи. Достатъчно е една система да генерира убедителен текст, да получи интелигентно име и да бъде представена като следващата голяма революция. След това остава най-лесната част: да обясним на човечеството, че бъдещето вече е пристигнало, но за пълния достъп е необходим абонамент. А ако резултатите се окажат неточни? Е, революциите никога не са обещавали техническа поддръжка на човешките очаквания.
Само че преди да започнем да се възхищаваме на новата машинна интелигентност, бих искала да се върнем към един съвсем елементарен въпрос. Кой всъщност реши, че алгоритъмът е интелигентен? В кой момент математическите операции, логическите правила и изчислителните процедури придобиха качеството, което в продължение на векове свързваме с човешкото познание, разсъждение и разбиране? И още по-интересно, кой установи, че успешното изпълнение на определена задача е достатъчно основание да приписваме интелигентност на системата, която я изпълнява? Защото ако следваме подобна логика без необходимите уточнения, скоро ще трябва да организираме научна конференция в чест на калкулатора. Той от десетилетия извършва математически операции по-бързо от повечето хора, но никой не го е канил да изнесе лекция за философията на числата.
Историята ни връща към 1955 година, когато Джон Маккарти въвежда названието Artificial Intelligence в предложение за научно изследване. Първоначалната идея е да се проучи дали определени способности, свързани с човешката интелигентност, могат да бъдат описани математически и симулирани от машина. Забележете, говорим за научна хипотеза, не за доказателство, че алгоритъмът мисли, разбира или притежава съзнание. Но очевидно някъде по пътя между научната лаборатория и маркетинговия отдел хипотезата е получила повишение. От симулиране на интелигентност до интелигентна машина. Забележителен кариерен скок за един алгоритъм!
И тук няма как да не се възхитя на необикновената кариера на думата интелигентен. Някога тя изискваше сериозни дискусии за познание, логика, памет, учене, абстракция и способност за решаване на проблеми. Днес я срещаме върху телефони, часовници, домакински уреди, автомобили, корпоративни платформи и почти всяка нова дигитална услуга, която се нуждае от по-впечатляващо пазарно позициониране. Разбира се, в техническия език интелигентен може да обозначава автоматизирана адаптация, сложна обработка на информация или специфични функционалности. Проблемът започва тогава, когато това обозначение се използва така, че потребителят остава с впечатлението за разбиране, самостоятелна преценка или почти човешки способности, без да е обяснено какво действително може и не може системата. Колко забележително! Една дума, достатъчно гъвкава, за да обозначава цяла научна дисциплина, и достатъчно удобна, за да увеличава привлекателността на почти всичко, към което бъде прикрепена.
Но аз не бих обвинила учените от Дартмут за последвалото терминологично разточителство. Те формулират изследователски въпроси в рамките на една нова научна област. Отговорността за начина, по който тези понятия се използват днес, не може да бъде прехвърлена върху създателите им. Точно обратното. Тяхната първоначална формулировка ни дава основание да бъдем по-внимателни с големите твърдения. Защото научната хипотеза не става доказан факт благодарение на своята популярност, а симулацията на определено поведение не решава автоматично всички въпроси за природата на това поведение. Технологията може да бъде изключително полезна, без да ѝ приписваме способности, за които все още няма достатъчно доказателства. Но явно скромното техническо описание не продава бъдещето толкова успешно, колкото обещанието за машина, която мисли вместо нас.
И сега стигаме до противоречието, което според мен заслужава много по-сериозно внимание. Ако една машина произвежда резултат, който прилича на резултат от човешка мисловна дейност, какво точно сме доказали? Че машината мисли, че успешно възпроизвежда определени характеристики на мисленето, или че самите ние невинаги различаваме външната проява на интелигентност от механизмите, които я пораждат? Това не е дребен терминологичен спор. От отговора зависи как оценяваме системите, какви решения им позволяваме да подпомагат или изпълняват и колко доверие им предоставяме.
Защото едно е машината да имитира определени прояви на интелигентност. Съвсем друго е човекът да приеме имитацията за доказателство. А най-интересното започва, когато някой открие колко успешно може да продава тази разлика като технологично чудо.
Но преди да връчим на машината диплома за интелигентност, нека изясним една съществена подробност. Алгоритъмът е последователност от формално определени операции, а не малък електронен мозък, който размишлява върху смисъла на живота между две изчисления. Съвременните системи за машинно обучение са несравнимо по-сложни от класическите алгоритми, а езиковите модели могат да обработват огромни количества информация, да откриват зависимости, да генерират текст и да решават задачи с впечатляваща точност. Но кога сложността на изчислението се превръща в разбиране? Дали способността да произведеш правилен отговор означава, че осъзнаваш неговото значение? И ако една машина може да имитира определени прояви на човешкото мислене, достатъчно ли е това, за да заключим, че притежава същите когнитивни способности? Очевидно между техническата функционалност и човешката интелигентност съществува разстояние, което маркетингът предпочита да измерва в месечни абонаменти.
Още през 1950 година британският математик Алън Тюринг поставя въпроса дали машините могат да мислят. Вместо да се впуска в безкраен спор за определенията на мисленето и интелигентността, той предлага известната игра на имитация. Идеята е да се изследва дали поведението на машина в текстов разговор може да бъде достатъчно убедително, така че човек да изпита затруднение да я различи от друг човек. Тук обаче възниква забележително противоречие. Един успешен разговор може да демонстрира убедително езиково поведение, но сам по себе си не установява дали зад него съществува човешки тип разбиране или съзнание. И все пак днес нерядко чуваме как способността на езиковите модели да разговарят естествено се представя като почти окончателно доказателство за машинна интелигентност. Значи, ако една система успее да ме убеди, че разговарям с мислещо същество, трябва непременно да приема, че тя мисли? Любопитна научна логика. Особено ако объркването на наблюдателя започне да се приема за доказателство за способностите на наблюдавания.
Тук аз виждам един от най-интересните проблеми на съвременната технологична култура. Човечецът е склонен да търси смисъл, намерения и интелигентност там, където разпознава познати модели на поведение. Добре де, ама когато получим логично построено изречение, когато системата отговори учтиво или когато използва думи, които свързваме с разбиране и съчувствие, ние лесно започваме да ѝ приписваме качества на събеседник. Но това, което се възприема, и това, което системата действително прави, не са едно и също. А щом веднъж сме склонни да виждаме интелигентност в убедителното поведение, възниква и моят следващият въпрос. Дали машината ни заблуждава, или ние сами се оказваме забележително талантливи в създаването на собствените си илюзии?
Compass Insight | Кой всъщност трябва да мисли?
Аз не се тревожа, че машините стават все по-способни да имитират човешко поведение. Тревожи ме лекотата, с която хората започват да приемат убедителната имитация за доказателство за интелигентност. Между изчисляване, генериране, разбиране и съзнание съществуват разграничения, които не изчезват само защото маркетингът е решил да ги събере под едно впечатляващо название.
И ако научният прогрес изисква доказателства, защо толкова охотно приемаме рекламните обещания за научни заключения? Машината може да генерира отговори, без да е установено, че разбира като човек. Но човекът, който ѝ вярва безкритично, доброволно се отказва от най-важното предимство на собствения си интелект: способността да поставя под съмнение.
Иронията? Нарекохме машината интелигентна, а сега трябва да напомняме на човека да мисли. Какъв грандиозен триумф на човешката интелигентност! Създадохме алгоритъм, който имитира мислене, нарекохме го интелигентен, превърнахме го в бизнес за милиарди, а сега доброволно му поверяваме собствената си преценка. Остава само да му връчим Нобелова награда, задето успя да убеди човечеството, че мисленето е излишен разход.