Какъв риск поема бизнесът с AI?
Заради популярни инструменти като ChatGPT днес всички говорят за изкуствен интелект (AI) – от технологични лидери и образователни институции до търговски вериги и болници. Ползите от AI в бизнеса са безспорни – автоматизиране на процеси, повишаване на продуктивността на екипите, по-добро онлайн клиентско преживяване и много други.
С все по-широкото му навлизане в бизнеса обаче се увеличават и рисковете от неточности, които могат да доведат до сериозни проблеми от финансов, правен и етичен характер. Например преди няколко години един от най-големите сайтове за онлайн търговия в света откри предубеждения в алгоритъма си за подбор на кадри. Оказа се, че той тенденциозно е подбирал мъже за технически роли, изключвайки квалифицирани кандидати от женски пол.
Ситуации като тази се случват все по-често и в бизнеси с различна дейност и мащаб. Проблемите идват, защото изкуственият интелект е толкова добър и способен да взема решения вместо хората, колкото добри и точни са данните зад него. Точността на данните зависи от хората, които ги обработват и вкарват.
Предубежденията в данните – скритият риск на изкуствения интелект
Предубежденията в данните не са нещо ново, но за проблемите, до които може да доведат, и навременното им адресиране не се говори много.
Предубежденията в данните са следствие от културните и лични преживявания на хората, които ги създават, и могат да се проявят в сетове от данни, бизнес правила, автоматизирани протоколи за тестване или пък при модели за машинно самообучение. Ако не бъдат адресирани, те може да доведат до вземане на решения, които влияят негативно на приходите, да разрушат доверието на клиентите и да застрашат сигурността на организацията.
Последиците са сериозни и за крайните потребители. Подобна история се развива в САЩ, когато финансова институция отказва да даде кредит на хора, които отговарят на всички условия, поради обременен алгоритъм, който дискриминира спрямо пощенски код.
Този проблем е съвсем реален и не касае само страните на Запад. Скорошно глобално проучване на Progress сред бизнес и ИТ лидери на компании с над 500 служители, включващо и България, показва, че 79% от българските респонденти споделят, че в техните организации има предубеждения в данните.
По-притеснителното обаче е, че само 13% имат установени процеси и политики за справяне с проблема, при положение че почти всички планират в следващите няколко години да разчитат повече на изкуствения интелект при вземането на решения. Проучването показва, че липсва разбиране на това какво представляват предубеждения в данните и как могат да бъдат открити.
Решението е в хората, обучението и технологиите
Елиминирането на предубежденията в данните изисква целенасочен подход, включващ хората, работещи с данните и алгоритмите, технологични инструменти, обучение и строги политики за контрол. Отговорността се носи от всички, които си взаимодействат под една или друга форма с изкуствения интелект, алгоритмите за машинно обучение и данните, с които са захранвани.
По отношение на човешкия фактор компаниите трябва да се стремят да наемат талант с разнообразен професионален и житейски опит, който да развива изкуствения интелект по устойчив начин във времето. Необходимо е и всички служители в дадената компания да преминат през различни обучения – технически и по приобщаване и разнообразие, за да може всеки да си изгради навик да разпознава, разрешава и елиминира предубедени алгоритми.
Когато говорим за технологичния стек на една компания, всяка допирна точка може да бъде обременена с предубеждения. Прозрачността и проследяемостта на процесите и данните са най-доброто решение за справянето с този проблем. За да постигнат това, компаниите се нуждаят от платформа за бизнес правила, в която данните могат да бъдат въведени и подготвени за съответния AI инструмент. В допълнение, възможността да се проследи произхода на даден сет от данни позволява на експертите да видят всички промени, които са правени по тях, и да засекат момента, в който са се появили предубежденията.
Бъдещето на AI зависи от тези, които го създават
Изкуственият интелект ще продължава да се развива с бързи темпове, да трансформира почти всяка индустрия и да се усеща осезаемо във всяка сфера от живота ни. Според данни на водещата фирма за пазарни проучвания IDC само в Европа пазарът на AI ще достигне 191 милиарда долара през 2026 г., като следващите пет години ще бъдат критичен период за по-широкото му приложение в бизнеса и ежедневието за разрешаване на различни проблеми. ю
юРеализирането на потенциала на технологията и елиминирането на опасните рискове изисква от компаниите да започнат подготовката си, включваща хората, технологиите и процесите, сега. Колкото и да се доближава до човешкия мозък, AI няма морален и етичен компас и резултатите, генерирани през него, зависят от правилно зададените въпроси и данните, на които се базират алгоритмите, участващи в процеса на автоматизираните решения. Затова темата за предубежденията в данните е важна и трябва да бъде на дневен ред за всяка организация, ползваща AI.
Справянето с предубежденията в данните не е лесна задача. Тя изисква правилно разбиране на проблема от всички в организацията, проактивни мерки и дисциплина в прилагането им. Да се опиташ да промениш човешки нагласи и работни процеси, изграждани с години, е сериозно предизвикателство. Само така обаче можем да подсигурим бъдеще, в което изкуственият интелект работи в полза на хората и бизнеса, а ИТ лидерите първи трябва да поемат отговорност за правилното му ползване и да дадат пример на останалата част от бизнеса.
