„Jak projektować produkty wykorzystujące AI?” – czyli słów kilka o nowej doktrynie Human Centered AI.

19 marca 2024, Marek Trawiński

Oczywistą oczywistością jest, że rozwój AI jest czymś, co zmieni całe pokolenia pod kątem życia, pracy i otoczenia każdego z nas. To wie przeciętny 12-latek. Kontakt z technologią opartą o sztuczną inteligencję staje się powoli codziennością, ale jej umasowienie tak naprawdę wciąż przed Nami. Obserwujemy jeden z najszybszych procesów rozwoju technologii od lat, szybszy niż w czasach rozwoju internetu oraz ery „smartfonetyzacji”. To wszystko pcha Nas w kierunku życia obok i z technologią AI w bliskiej synergii. Życia z technologią, która albo będzie dążyć do tego aby być lepsza od człowieka ( i być może go zastąpi, albo wybierze wariant „kolaboracji” z człowiekiem w imię wyższego celu (amplify and augment). Ja wierzę zdecydowanie w drugi scenariusz. A co za tym idzie? Doświadczenia użytkownika, klienta, człowieka. Dlatego projektując produkty zapomnijcie powoli o Human Centered Designie. Wkroczyliśmy w erę Human Centered AI. Czym jest ta doktryna? O tym dziś słów kilka. 

Od wielu miesięcy trąbie, że „There is no AI without UX”. Trudno nie zgodzić się z tym stwierdzeniem, które Aonghus McGovern (ex Amazon, ex Accenture i HubSpot) wypowiedział już w 2019 roku. Są mi niezwykle bliskie. Wierzę w nie, nie tylko jako człowiek, który od prawie 10 lat siedzi w procesach UX, badaniach z użytkownikami i szeroko rozumianym „bagienku” projektowania zorientowanego na użytkownika, który widział bardzo dużo w obszarze tego jak należy robić i jak nie należy robić produktów cyfrowych. Wierzę w te słowa przede wszystkim jako klient, konsument i zwyczajnie użytkownik rzeczy oraz usług. Dlaczego? Od prawie 2 lat testuję szereg różnych produktów opartych o AI – obserwuję rynek usług, produktów cyfrowych, które powstają na fali „hype” związanego z rozwojem GPT oraz łatwości integracji frontu z API Open AI, ale również tych, które starają się budować własne modele oraz silniki. Niestety w większości przypadków, produkty już po pierwszym logowaniu do systemu i próbie ich użycia, lądują w „cyfrowym koszu”. W najlepszym wypadku zostaje mi po nich tylko cotygodniowy „reminder” z prośbą abym wrócił. Dzieje się tak dlatego, że większość produktów wykorzystujących AI nie diagnozuje właściwie problemów użytkowników, które chce rozwiązać, a co więcej nawet jeśli to robi, to „podaje” rozwiązania w sposób taki, który budzi u użytkownika poczucie niepewności co do jakości wyników AI, które otrzymuje od aplikacji.

Rzetelny, Wiarygodny i Bezpieczny (RST)

Właśnie taki powinien być system AI, z którego użytkownik otrzymuje wyniki, wsparty użytecznym i funkcjonalnym interfejsem, do którego te wyniki będą zwracane. Stąd w obszarze projektowania tak mocno rozwija się dziś doktryna Human Centered AI, która jest naturalną kontynuacją myślenia „arnoldowskiego” z lat 60-tych ubiegłego wieku o projektowaniu-zorientowanym-na-użytkownika (Human Centered Design). Zgodnie z jedną z definicji, stosowanej chociażby przez IBM mianem HCI określa się dyscyplinę, której celem jest tworzenie systemów sztucznej inteligencji, które wzmacniają i wspomagają ludzkie zdolności, a nie je zastępują. HCAI dąży do zachowania kontroli człowieka w taki sposób, aby sztuczna inteligencja spełniała (1) nasze potrzeby, jednocześnie działając transparentnie (2), dostarczając sprawiedliwe wyniki (3) i szanując prywatność (4).

 

Shneiderman, B. (2020). Human-centered artificial intelligence: Three fresh ideas.

 

Projektowanie powinno pomóc w zamykaniu luki między wynikami algorytmów a lepszymi wynikami ludzkimi, mając na uwadze potrzeby, zachowania i cele człowieka podczas tworzenia tych systemów.

 

 

 

Human-centered AI Design Process: https://www.frontiersin.org/files/Articles/976887/frai-06-976887-HTML-r1/image_m/frai-06-976887-g001.jpg

Dziś, w kontekście tworzonych systemów, usług i produktów wykorzystujących AI lub opartych o gotowe silniki, dla powodzenia naszego projektu, tym bardziej musimy myśleć o kierunku projektowania zorientowanego w szczególności na potrzeby i wartości użytkownika, które sztuczna inteligencja ma realizować lub pomagać realizować, ale w takiej relacji, że to AI ma odpowiadać na nie swoimi rzetelnymi, wiarygodnymi i bezpiecznymi wynikami, a nie go zastąpić. Nieistotne, czy algorytmy sztucznej inteligencji mają automatyzować procesy czy wspierać działania ludzi, większe prawdopodobieństwo przyniesienia korzyści ekonomicznych i społecznych jest związane z uwzględnieniem realnych potrzeb użytkowników oraz czynników psychologicznych.

 

Co to oznacza dla zespołów produktowych? 

Zmienia się model i proces projektowy, który często opieraliśmy o metodę Design Thinking. W kontynuacji do myśli „standfordzkiej”,  w HCAI również występuje mocna koncentracja na projektowaniu systemów AI w bliskiej korelacji z potrzebami użytkownika, jednak wyraźnie silniej niż kiedykolwiek, daje się dostrzec warunek wykorzystania danych w tym procesie oraz aspektów psychologii człowieka. 

 

Human-centered AI Design Process

 

„Data is a new oil” jak stwierdził Clive Humby. Tutaj również trudno nie zgodzić się z tym stwierdzeniem, zwłaszcza w kontekście procesu HCAI w którym dane stają się podstawą wnioskowania o potrzebach użytkowników, ale i nie tylko, ponieważ stanowią również źródło wiedzy „z wczoraj, z dziś i z jutra”. 

 

Od tego jak będą zbierane dane, przechowywane, przetwarzane, wykorzystywane oraz czyszczone w organizacji zależy dalszy ich los w kontekście właściwej identyfikacji potrzeb użytkownika przez zespoły produktowe, a co za tym idzie dostarczenie lepszego produktu (wyników modelu AI) na rynek.

 

To wszystko implikuje konieczność budowania nowych kompetencji w działach projektowych UX oraz dalsze łącznie zespołów UX z Data Science / Big Data lub szukanie zespołów, które rozumieją tę praktykę i mają już zbudowane kompetencje. Ma to olbrzymie znaczenie w kontekście wyboru partnera do realizacji produktów opartych o wykorzystanie AI, a mianowicie posiadanie przez projektantów UX kompetencji analitycznych, pracy z danymi i szczególnie rozumienia procesów Data Mining.

 

W Uxerii postawiliśmy mocno na budowanie kompetencji Data Science i już teraz część zespołu nabywa takiego doświadczenia, pracując z danymi oraz rozumiejąc ich specyfikę przetwarzania na realnych przykładach klientów.

 

Kluczowe jest zaufanie do wyników AI

Kolejny aspekt to prezentacja wyników dla użytkownika w produktach opartych o wykorzystanie AI. Pomijając sam aspekt oczywistej ergonomii i użyteczności interfejsu, to kluczowe staje się aby „user” rozumiał pochodzenie wyników, ich sens oraz logikę prezentowania, tak aby w efekcie użycia sprawić, że użytkownik zrozumie wyniki, dostrzeże ich wysoką jakość w kontekście swojego problemu / potrzeby oraz co również istotne system wzbudzi w nim poczucie wysokiego zaufania do wyników AI. Ten ostatni aspekt emocjonalny związany z zaufaniem do dostarczanych wyników jest kluczowy do budowania dobrych doświadczeń z systemami AI i powinien być azymutem procesu projektowego. Dodatkowo, wyniki sztucznej inteligencji powinny być opatrzone miarami pewności oraz komunikatami „dlaczego”, które wyjaśniają przyczyny decyzji lub przewidywań. 

Food for thoughts na sam koniec 

Kończąc – jeśli Ty lub Twój zespół stajecie przed wyzwaniem zaprojektowania produktu, który będzie wykorzystywać AI to zwróć uwagę na to, że Twój system powinien odzwierciedlać informacje, cele i ograniczenia, które decydent zazwyczaj uwzględnia w procesie podejmowania decyzji. Przy projektowaniu tych rozwiązań należy analizować dane z perspektywy wiedzy dziedzinowej i instytucjonalnej oraz zrozumienia procesu, który prowadził do ich generacji. Dane, dane i jeszcze raz dane. Zrozum skąd je masz, co Ci dają w kontekście potrzeb użytkownika i po co chcesz je wykorzystać dziś oraz jutro. Istotne jest również przewidywanie realiów środowiska, w którym algorytmy będą używane, aby uniknąć nieprzewidzianych negatywnych skutków społecznych (etyka AI). Ważne jest unikanie prognoz, które mogą wywołać niezadowolenie społeczne oraz poddanie algorytmów przeglądowi lub audytowi w celu wyeliminowania niepożądanych uprzedzeń. 

Owocnej pracy przy Waszych produktach AI! 

Marek Trawiński

Head of Operations w Uxeria.com, menadżer i lider UX z prawie 10-letnim stażem w branży, entuzjasta oraz praktyk technologii AI oraz AR z własnymi produktami na koncie, prywatnie miłośnik rowerów MTB, ukulele oraz perkusji