Едно от най-привлекателните обещания на изкуствения интелект е, че може да помогне на бизнеса да постига повече с по-малко ресурси. Документите се генерират по-бързо, клиентските запитвания се обработват автоматично, огромни масиви от данни се анализират за секунди, а административни дейности, които преди са отнемали цели следобеди, вече могат да бъдат приключени, преди някой да е изпил сутрешното си кафе. Забележително постижение, без съмнение. Но преди да обявим поредната революция в производителността, бих искала да разгледам нещо далеч по-малко бляскаво. Какво точно е станало по-ефективно и кой печели от това подобрение? Защото намаляването на времето, необходимо за изпълнението на една задача, не означава непременно увеличаване на икономическата стойност, която тя създава. Възможно е да сме ускорили дадена операция, без да сме я направили по-полезна, по-точна или по-печеливша. А ако самата дейност допринася твърде малко за бизнеса, нейното ускоряване може просто да ни доставя удоволствието да вършим нещо ненужно със забележителна скорост.
Икономиката на автоматизацията заслужава много по-сериозен анализ от броя часове, които доставчикът на софтуер обещава да спести. Представете си малка компания, която внедрява система с изкуствен интелект и елиминира шестдесет часа рутинна административна работа месечно. При вътрешен разход за труд от четиридесет евро на час привидната икономия възлиза на 2400 евро. Отлични числа за презентация, посветена на дигиталната трансформация. Само че компанията плаща и 350 евро месечно за технологията, отделя двадесет и пет часа за проверка на автоматично генерираните резултати и още петнадесет часа за коригиране на грешки и обработване на изключения. При същата приета стойност на труда проверките и корекциите струват допълнителни 1600 евро. Първоначалната икономия от 2400 евро вече се е превърнала в нетна оперативна полза от 450 евро месечно, при това преди да сме включили разходите за внедряване, обучение на служителите, поддръжка на системата или евентуални промени в удовлетвореността на клиентите. Числата са илюстративни, но икономическият принцип съвсем не е хипотетичен. Един бизнес не може да измерва стойността на автоматизацията единствено чрез труда, който привидно премахва, като същевременно пренебрегва ресурсите, необходими за надеждното функциониране на автоматизирания процес.
И дори тези изчисления изискват тълкуване. Спестеното време не се превръща автоматично в спечелени пари. Ако един служител отделя по-малко часове за администрация, организацията може да получи допълнителен работен капацитет, без реалните ѝ разходи да намалеят. Този капацитет има потенциална икономическа стойност, но ползата зависи от това какво се случва след това. Могат ли освободените часове да бъдат насочени към дейности, които генерират приходи, подобряват качеството на обслужването или намаляват действителните оперативни разходи? Или просто сме създали повече свободно време, без да променим икономическите резултати на организацията? Бих искала също да знам дали автоматизацията не е създала нови зависимости, допълнителни разходи за софтуер или оперативни рискове, които не са съществували в първоначалния процес. Разумното инвестиционно решение изисква оценка на общите разходи, очакваните ползи и несигурността, свързана и с двете. Абонаментната такса е просто най-видимата част от сметката.
За мен е особено показателно, когато компаниите празнуват броя на автоматизираните задачи, без изобщо да са установили дали бизнесът е имал нужда от тях. Стигнали сме до момент, в който един неефективен процес може да бъде автоматизиран, наблюдаван чрез привлекателно табло с показатели и гордо представен като доказателство за технологичен напредък. Но ако процесът е бил лошо проектиран, защо инвестираме в неговото ускоряване, вместо да поставим под въпрос самото му съществуване? Най-разумното решение би било ненужната дейност просто да бъде премахната. Разбира се, елиминирането на безсмислена работа не предлага същите маркетингови възможности като обявяването на мащабна трансформация с изкуствен интелект.
Изпълнението на задача не е равнозначно на упражняване на преценка
Разликата между изпълнението и преценката става особено важна, когато системите с изкуствен интелект излязат извън рамките на повтарящите се операции и започнат да влияят върху управленските решения. Една изчислителна система може да анализира наличните данни, да открива статистически зависимости, да сравнява алтернативи и да генерира препоръки според своята архитектура и зададените инструкции. Някои системи могат също да използват инструменти, да координират последователности от действия и да адаптират отговорите си към променяща се информация. Тези възможности могат да бъдат изключително полезни. Но нито една от тях не доказва автоматично, че системата прилага правилните критерии към правилния бизнес проблем. Преди да оценим качеството на дадена препоръка, трябва да разберем как е дефиниран проблемът, коя информация е определена като релевантна и какво всъщност трябва да постигне предложеното решение.
Нека разгледаме компания, която използва автоматизирана система за ценообразуване с цел увеличаване на продажбите. Моделът открива възможности за коригиране на цените, реакцията на клиентите се подобрява и броят на транзакциите започва да расте. Ръководството е възхитено. Отчетите показват по-висока конверсия, търговският отдел празнува, а технологията очевидно изпълнява точно това, което е било обещано. Сега си представете, че първоначалната цел е била дефинирана основно чрез обема на продажбите, без достатъчно внимание към маржа на приноса. Системата може да препоръчва отстъпки, които успешно привличат допълнителни поръчки, но намаляват икономическия принос на всяка продажба. Провал на изкуствения интелект ли е това? Не непременно. Възможно е системата да оптимизира точно целта, която ѝ е била поставена. По-неприятната възможност е организацията да е избрала неподходяща цел и след това да е инвестирала в технология, способна да я преследва с изключителна ефективност.
Нека направим проблема конкретен. Да предположим, че първоначално един бизнес продава 1000 единици от даден продукт на цена от 100 евро всяка, при променливи разходи от 75 евро за единица. Приходите възлизат на 100 000 евро, а общият принос за покриване на постоянните разходи и формиране на печалба е 25 000 евро. След това автоматизирана стратегия за ценообразуване намалява продажната цена на 90 евро и увеличава продажбите до 1250 единици, като променливите разходи за единица остават непроменени. Приходите нарастват до 112 500 евро, което представлява увеличение от 12,5%. Обемът на продажбите се увеличава с 25%. На таблото с показатели и двата резултата изглеждат доста впечатляващи. Но приносът на единица е намалял от 25 на 15 евро, което оставя общ принос от едва 18 750 евро. Компанията вече генерира повече приходи и извършва повече транзакции, но осигурява с 25% по-малък принос за покриване на постоянните разходи и печалбата. Изчисленията приемат непроменени променливи разходи за единица и изключват допълнителни ефекти като върнати поръчки или разходи за привличане на клиенти. Дори при тези опростени условия противоречието трудно може да бъде пренебрегнато. Какво точно оптимизира компанията? И кой реши, че увеличаването на транзакциите е по-важно от запазването на икономическия принос?
Именно тук управленската преценка става незаменима. Икономическата цел на един бизнес рядко може да бъде сведена до един-единствен показател. Решенията за ценообразуване могат да повлияят върху рентабилността, задържането на клиентите, пазарното позициониране, оперативния капацитет и реакциите на конкурентите. Тези съображения невинаги водят към едно и също решение. Увеличаването на обема може да бъде напълно разумно, когато компанията разполага с неизползван капацитет и достатъчни маржове на принос. Същото решение може да се окаже катастрофално, когато производствените разходи растат, а оперативните ресурси вече са натоварени до краен предел. Правилното решение зависи от контекста, приоритетите и ограниченията. Технологията може да ни помогне да анализираме тези зависимости, но отговорността за определянето на приемливите резултати остава управленска функция.
Особено скептична съм към предположението, че една технически сложна препоръка заслужава по-голям авторитет само защото идва от изчислителна система. Математическото изчисление може да бъде правилно, докато управленското решение, изградено върху него, е икономически необосновано. Една прогноза може да бъде вътрешно последователна, но да се основава на допускания, които не отразяват пазарната реалност. Препоръката може да бъде напълно съобразена със зададената цел, дори когато самата цел противоречи на интересите на предприятието. Ако проблемът е дефиниран неправилно, изчислителната прецизност няма да спаси стратегията. Тя може да направи последствията още по-систематични.
Бизнес контекстът не може да бъде сведен до удобен набор от данни
Има още един аспект на внедряването на изкуствен интелект, който заслужава значително повече внимание, отколкото обикновено получава. Бизнес решенията се вземат в среда, оформена от формални правила, договорни задължения, очаквания на клиентите, организационни отношения и информация, която може никога да не е била систематично документирана. Една база данни може да съдържа история на продажбите, продуктови цени, клиентски взаимодействия и оперативни показатели. Възможно е обаче да не съдържа причината определен клиент да е получил изключителни условия за плащане, търговските последици от деликатни преговори или факта, че привидно печеливш продукт предстои да бъде изтеглен, защото доставчикът вече не може да гарантира доставките. Подобни обстоятелства понякога могат да бъдат документирани и предоставени на системите с изкуствен интелект, но не бива да приемаме, че присъстват в данните само защото системата има достъп до значителен обем информация.
Бих подходила особено внимателно към разграничението между наличието на информация и нейната контекстуална релевантност. Една система може да разполага с хиляди записи и въпреки това да не притежава конкретната информация, необходима за надеждна препоръка. Тя може да открива статистически значими зависимости, които обаче са подвеждащи от търговска гледна точка. Историческото поведение на клиентите например може да предостави полезни данни за търсенето, но не разкрива непременно как те ще реагират на нов конкурент, регулаторна промяна или спад в покупателната способност. Убедително формулираното обяснение също не гарантира, че доказателствата, върху които се основава, са пълни. Практическият въпрос не е колко информация може да обработи системата, а дали тази информация е подходяща за решението, което трябва да бъде взето.
Това не означава, че системите с изкуствен интелект са неспособни на контекстуален анализ. Те могат да комбинират множество информационни източници, да разпознават несъответствия, да идентифицират липсващи подробности и да подпомагат хората, които вземат решения, при разглеждането на различни алтернативи. При подходящи условия тези възможности могат да подобрят качеството и ефективността на бизнес анализа. Но необходимият контекст трябва да бъде достъпен, достатъчно надежден и интерпретиран с необходимото внимание към несигурността. Когато информацията е непълна, системата не бива да бъде възприемана като авторитет само защото може да генерира последователен отговор. Убедителното обяснение може да придаде изненадваща достоверност на предположение, което няма достатъчна доказателствена основа.
Намирам и езика, използван около бизнес интелигентността, за доста показателен. Говорим за интелигентни системи, автономни агенти и автоматизирано вземане на решения, сякаш тези изрази сами по себе си решават въпроса за компетентността. Не го решават. Способността на една система да генерира правдоподобна препоръка е доказателство за определена функционална възможност, но не и гаранция, че препоръката е подходяща за конкретната търговска ситуация. Разграничението е особено важно, когато решенията засягат договори, финансови ангажименти, права на клиенти или служители. При подобни обстоятелства не е достатъчно да знаем какво е генерирала системата. Трябва да знаем коя информация подкрепя резултата, кои допускания остават несигурни и дали решението може да бъде оспорено, преди да създаде последствия, които трудно биха могли да бъдат отменени.
Ако система с изкуствен интелект препоръча търговски привлекателно действие, което нарушава съществуващо договорно задължение, проблемът няма да се реши с възхищение от сложността на анализа. Някой трябва да установи кои задължения имат предимство, какви рискове са приемливи и дали препоръката изобщо може да бъде приложена. Това са въпроси на управлението, организационното знание и отговорността. Те не могат да бъдат разрешени просто чрез увеличаване на количеството текст, което системата има право да генерира.
Машината може да има достъп до данните. Това не означава, че данните съдържат всичко, което бизнесът трябва да знае.
А ако изкуственият интелект просто позволява на една стара грешка да се разпространява по-бързо?
Един от най-подценяваните рискове на автоматизацията вероятно не е, че технологията внезапно ще създаде напълно нов вид бизнес провал. Рискът е, че съществуващите слабости в управлението, качеството на данните и организационните процеси могат да бъдат възпроизвеждани със скорост и в мащаб, които ръчните операции никога не биха позволили. Една лошо проектирана процедура преди е можела да засегне няколко клиентски транзакции, преди служител да забележи, че нещо не е наред. Автоматизирайте същата процедура, свържете я с няколко бизнес системи и ѝ позволете да работи непрекъснато. Първоначалната слабост може да се превърне в проблем за цялата организация, преди някой изобщо да е анализирал първите последствия.
Представете си компания с неясна политика за възстановяване на суми. Служителите традиционно са тълкували изключителните ситуации индивидуално, понякога непоследователно, но проблемите са оставали относително ограничени, защото всеки случай е изисквал човешка намеса. Ръководството решава да автоматизира клиентските запитвания чрез система с изкуствен интелект, свързана с базата данни за поръчките и комуникационната платформа. Системата получава инструкции да следва съществуващата фирмена политика и да разрешава запитванията ефективно. За съжаление политиката съдържа двусмислени условия, които никой не е сметнал за достатъчно важни, за да бъдат уточнени преди внедряването. Автоматизираният процес започва да тълкува тези условия по начин, различен от първоначално предвидената търговска практика. Клиентите получават непоследователни решения, някои случаи се прехвърлят ненужно към по-високо ниво на обслужване, а други се разрешават при условия, които компанията изобщо не е възнамерявала да предлага. Технологията не е измислила двусмислието. Тя просто е направила последствията му значително по-видими и потенциално по-скъпи.
Сега си представете какво се случва, когато същата логика бъде приложена към по-големи оперативни системи. Неправилната класификация на продуктите може да изкриви автоматизираните препоръки. Остарялата клиентска информация може да повлияе върху маркетинговите решения. Неясно дефинираните правила за одобрение могат да създадат финансови ангажименти без достатъчен контрол. Погрешните допускания за търсенето могат да повлияят върху планирането на складовите наличности и покупките. Във всеки от тези случаи основният въпрос не е просто дали софтуерът изпълнява възложената му операция. Въпросът е дали процесът, на който се основава, информацията, от която зависи, и контролните механизми около него са достатъчно надеждни за автоматизирано изпълнение.
Мащабът променя икономиката на грешката. Ако един ръчен процес води до едно неправилно решение на всеки сто случая, организацията може да има време да разпознае и коригира проблема, преди той да се разрасне. Автоматизиран процес, който обработва хиляди случаи, може да произведе значително по-голям брой проблемни резултати, преди закономерността да стане очевидна. Честотата, тежестта и възможността за коригиране на грешките имат значение. Някои грешки са евтини и лесно обратими. Други могат да увредят клиентските отношения, да предизвикат договорни спорове или да създадат задължения, които не могат просто да бъдат отменени с поредната софтуерна актуализация. Следователно цената на един провал зависи не само от това дали възниква грешка, но и от мащаба на нейното разпространение и скоростта, с която организацията може да се намеси.
Ето защо бих разгледала качеството на бизнес процеса, преди да празнувам неговата автоматизация. На какви допускания се основава той? Къде се вземат решенията? Кои изключения изискват специално обработване? Каква информация трябва да бъде проверена? Кои резултати биха могли да създадат неприемливи финансови или правни последствия? И вероятно най-показателният въпрос от всички: ако днес не можем да обясним как работи даден процес, какво ни кара да вярваме толкова уверено, че автоматизирането му утре ще подобри бизнеса?
Лесно мога да си представя компания, която гордо обявява, че е автоматизирала 90% от своите операции, докато тихомълком открива, че никой не разбира напълно останалите 10%, където по някаква ирония се оказват съсредоточени най-важните решения. Впечатляваща технологична трансформация, несъмнено. Но аз бих се интересувала значително повече дали компанията е станала по-лесна за управление, по-надеждна и икономически по-устойчива. В противен случай може да сме постигнали единствено изключително ефективна система за разпространение на грешки, които вече са съществували.
Човешкият контрол не е подпис в края на процеса
Изразът човешки надзор присъства често в дискусиите за отговорното внедряване на изкуствен интелект. Звучи успокояващо и по принцип отговаря на действителна необходимост. Но не бих приела присъствието му в корпоративната политика като доказателство, че реален надзор действително съществува. Има съществена разлика между това някъде в процеса да присъства човек и това да бъде проектирана система, в която този човек може да разбере, оспори и при необходимост да предотврати автоматизирано действие. Мениджър, който получава стотици препоръки и ги одобрява, без да проверява основанията им, не упражнява непременно управленска преценка. Организацията просто е добавила още едно кликване между алгоритъма и последствията от неговите действия.
Смисленият надзор изисква реални правомощия. Човекът, отговорен за проверката на автоматизирано решение, трябва да има достъп до необходимата информация, да разбира предназначението на системата и да може да разпознава обстоятелствата, при които резултатите ѝ не бива да бъдат приемани безусловно. Трябва да съществува практически механизъм за предаване на несигурни случаи към компетентен служител, спиране на неподходящи действия и коригиране на грешки. Системата следва да поддържа записи, които позволяват значимите решения да бъдат проверявани впоследствие. Тези контролни механизми стават особено важни, когато изкуственият интелект е свързан с инструменти, способни да променят цени, да изпращат съобщения, да редактират клиентски записи или да инициират транзакции. В този момент разликата между генерирането на препоръка и изпълнението на действие престава да бъде теоретична. Тя определя дали един съмнителен резултат ще остане предложение, или ще се превърне в реално оперативно последствие.
Бих поставила под въпрос и убеждението, че човешкото участие автоматично прави един автоматизиран процес по-безопасен. Недостатъчно обучен служител може да пропусне грешки. Човек, поставен под прекомерен времеви натиск, може да одобрява препоръките механично. Служителят може да приеме, че технически сложната система е по-надеждна от собствената му оценка, дори когато обстоятелствата очевидно изискват допълнителна проверка. Човешкият надзор може да намалява рисковете, но само когато организацията го е проектирала така, че действително да функционира. Добавянето на човешко име към записа за одобрение не доказва, че е била упражнена независима преценка.
Нивото на надзор трябва да отразява и потенциалното въздействие на задачата. Не виждам особен смисъл висшето ръководство да одобрява всеки автоматично форматиран вътрешен документ. Това би обезсмислило самата ефективност, заради която технологията е била внедрена. Но автоматизирана система, която може да влияе върху финансови ангажименти, решения за наемане и управление на персонала, договорни задължения или достъп до основни услуги, заслужава значително по-силни защитни механизми. Целта не е автоматизацията да бъде усложнявана ненужно. Целта е да поставим ефективен контрол там, където грешките могат да имат сериозни последствия.
А тези контролни механизми също имат икономическа цена. Проверката отнема време, наблюдението изисква ресурси, а одитните процедури трябва да бъдат поддържани. Следователно отговорната стратегия за автоматизация трябва да включва разходите за управление и контрол като част от инвестицията, вместо да ги третира като неприятна административна подробност, която може да бъде добавена, след като технологията вече е внедрена. Ако един бизнес проект изглежда печеливш единствено защото изключва разходите за надзор върху системата, бих поставила под съмнение самата икономическа обосновка, преди да одобря внедряването.
В крайна сметка какъв е смисълът да намаляваме оперативните разходи, ако икономиите зависят от премахването на механизмите, които правят операциите надеждни?
Кой определи успеха и кой ще обясни провала?
Въпросът, който в крайна сметка бих поставила при всяка дискусия за внедряване на изкуствен интелект, е свързан с дефинирането на успеха. Преди да изберем модел, да закупим платформа или да интегрираме автоматизиран процес, искам да знам какво точно се опитва да подобри компанията. Приходите? Рентабилността? Времето за реакция към клиентите? Честотата на грешките? Работния капацитет на служителите? Качеството на услугите? Тези цели са свързани, но не са взаимозаменяеми. Подобряването на една от тях понякога може да отслаби друга. И ако управленският екип не е решил как да балансира между конкуриращите се цели, внедряването на сложна система за оптимизация няма да разреши разногласието. Може просто да го скрие под набор от показатели за ефективност.
Една компания може да намали разходите за обслужване на клиенти чрез автоматизиране на повече взаимодействия. Но какво се случва, ако за клиентите става все по-трудно да разрешават сложни проблеми? Може да генерира повече маркетингово съдържание, но дали това съдържание подобрява привличането на действително заинтересовани потенциални клиенти, или просто увеличава количеството материали, които се борят за внимание? Може да ускори изготвянето на финансови отчети, но надеждни ли са класификациите, изчисленията и допусканията, върху които се основават те? Не съм против нито едно от тези приложения. Просто отказвам да приемам подобряването на оперативната скорост като достатъчно доказателство за бизнес стойност.
Това повдига и един неудобен въпрос за отговорността в организациите. Кой е одобрил целите? Кой е избрал системата? Кой е определил приемливото ниво на риск? Кой има правомощия да отмени нейните препоръки? И когато автоматизиран процес доведе до търговски неблагоприятен резултат, кой разполага едновременно с информацията и правомощията да установи какво се е объркало? Тези отговорности трябва да бъдат разпределени преди появата на проблемите, а не да бъдат откривани в поредица от все по-спешни заседания, след като щетите вече са нанесени.
Разграничението между разработчика, доставчика на технологията и организацията, която внедрява системата, е особено важно. Различните страни могат да носят отговорност за различни аспекти на проектирането, функционирането, интеграцията и използването. Правните задължения също могат да варират според конкретното приложение и юрисдикцията. Но от гледна точка на бизнес управлението организацията не може основателно да предполага, че приемането на външна технология я освобождава от задължението да взема информирани решения относно начина, по който тя се използва. Доставчикът на системата може да обясни техническите ограничения или да коригира софтуерен дефект. Това не замества задължението на управленския екип да прецени дали избраното приложение е подходящо за конкретната бизнес цел.
И тук се появява едно доста неудобно противоречие в ентусиазма около изкуствения интелект. Компаниите все по-често искат системи, способни да работят с по-голяма автономност, като едновременно с това очакват отговорността да остане проста, евтина и някак извън самата организация. Искат автоматизирани решения, но не и тежестта да изследват последствията им. Искат по-сложни технологии, но не непременно по-компетентно управление. Искат да намалят човешкото участие, но очакват някой незабавно да се появи, когато системата допусне скъпоструваща грешка.
Намирам подобно очакване за трудно защитимо както от икономическа, така и от организационна гледна точка.
Стойността на изкуствения интелект в бизнеса трябва да бъде оценявана чрез резултатите, за чието постигане допринася, ресурсите, които изразходва, и рисковете, които създава или намалява. Тя не бива да зависи от броя автоматизирани процеси, сложността на потребителския интерфейс или увереността, с която системата представя своите препоръки.
Най-важната инвестиция невинаги е в поредния инструмент с изкуствен интелект. Понякога тя е в по-качествени данни, по-добре дефинирани процеси, по-точно формулирани цели и управленски практики, способни да разграничат полезната препоръка от скъпоструващата грешка.
Защото технологията може да подобри изпълнението на едно решение. Но не може да превърне икономически необоснованата бизнес цел в разумна стратегия само защото я преследва по-ефективно.