AI Act przyjęty: co oznacza dla AI w sprzedaży i obsłudze klienta
13 marca 2024 roku Parlament Europejski przyjął akt w sprawie sztucznej inteligencji (AI Act). Jeśli prowadzisz małą firmę, która korzysta z asystentów pisania AI i chatbotów w sprzedaży i obsłudze klienta, w praktyce oznacza to przejrzystość i porządek w narzędziach. Nie zakaz. Tak w skrócie wygląda unijny AI Act z perspektywy właścicieli małych firm, którzy zobaczyli nagłówki i zastanawiają się, czy ich zespół musi coś zmienić. I od razu jedno zastrzeżenie: akt przeszedł przez Parlament, ale czeka jeszcze na końcową weryfikację i zatwierdzenie przez Radę, więc jeszcze nie obowiązuje. Poniżej znajdziesz wyjaśnienie prostym językiem i listę kontrolną, a nie poradę prawną.
Spis treści
AI Act w prostych słowach: co właściwie przyjął Parlament?
Wiążące prawo unijne. Ustala ono zasady dla sztucznej inteligencji zależnie od tego, jak dużą szkodę może wyrządzić dany system. W komunikacie Parlamentu o głosowaniu współsprawozdawcy opisują jego cele jako ograniczanie ryzyka, walkę z dyskryminacją, zapewnienie przejrzystości i utrzymanie kontroli człowieka nad technologią. Nazywają go też punktem wyjścia. Jak mówią, prawdziwa praca to teraz wprowadzenie tekstu w życie.
Jeśli prowadzisz firmę, warto zwrócić uwagę na jeden szczegół z tego komunikatu. Powstanie Urząd ds. AI, który ma wspierać firmy w dostosowaniu się do przepisów, zanim zaczną one obowiązywać. Pomoc w interpretacji jest więc zaplanowana. Po prostu jeszcze jej nie ma.
Harmonogram AI Act: jaki jest status w marcu 2024 roku?
Przyjęty przez Parlament, czeka na końcową weryfikację i formalne zatwierdzenie przez Radę. Nieopublikowany, nie obowiązuje. Dopóki te kroki nie zostaną wykonane, nic z niego nie wiąże Twojej firmy.
A kiedy już zacznie obowiązywać? Obowiązki będą wchodzić etapami, a nie wszystkie naraz, więc jest czas na przygotowanie. Ja i tak radzę zacząć wcześnie. Spis narzędzi, z których korzystają pracownicy, dziś wymaga niewiele wysiłku. Spróbuj odtworzyć go później, gdy ludzie zmienią stanowiska, a subskrypcji przybędzie, i robi się znacznie trudniej.
Jak działa podejście oparte na ryzyku, mówiąc prosto?
Prosta zasada: im większa potencjalna szkoda dla ludzi, tym surowsze przepisy. Akt dzieli AI na poziomy:
- Praktyki niedopuszczalne - zastosowania uznane za tak szkodliwe, że są całkowicie zakazane.
- Systemy wysokiego ryzyka - AI, która może poważnie wpływać na życie lub prawa ludzi, dozwolona tylko przy spełnieniu surowych wymagań.
- Systemy ograniczonego ryzyka - narzędzia, z którymi wiążą się głównie obowiązki przejrzystości, na przykład informowanie ludzi, że mają do czynienia z AI.
- Narzędzia minimalnego ryzyka - codzienne oprogramowanie, na które nie nakłada się nowych obowiązków.
Na kim spoczywa ciężar? Głównie na tych, którzy tworzą systemy AI i wprowadzają je na rynek. Firmy, które tylko korzystają z takich produktów, mają lżejsze obowiązki. Większość małych firm jest właśnie w tej sytuacji.
AI Act dla małych firm: gdzie trafiają asystenci pisania, chatboty i lead scoring?
Typowe zastosowania w sprzedaży i obsłudze klienta najpewniej znajdą się na poziomie minimalnego lub ograniczonego ryzyka. Tekst jest jednak wciąż dopracowywany, więc potraktuj poniższą listę jako orientację, a wszystko, co nietypowe, skonsultuj z doradcą:
- Pomoc AI w pisaniu e-maili i odpowiedzi - prawdopodobnie minimalne ryzyko, bo człowiek czyta, poprawia i bierze odpowiedzialność za wiadomość, zanim zostanie wysłana.
- Chatboty rozmawiające z klientami - prawdopodobnie ograniczone ryzyko, z obowiązkiem poinformowania, że klient rozmawia z maszyną.
- Lead scoring - prawdopodobnie niskie ryzyko, gdy tylko ustawia potencjalnych klientów B2B w kolejności do kontaktu, ale warto przyjrzeć mu się bliżej, jeśli ocena wpływa na dostęp do podstawowych usług albo przesądza o decyzjach dotyczących osób fizycznych.
Jaka jest więc uczciwa odpowiedź na pytanie „czy mój chatbot jest systemem wysokiego ryzyka według AI Act”? Raczej nie, o ile odpowiada na pytania i nie rozstrzyga o niczym ważnym dla danej osoby. Z prognozowaniem jest tak samo: korzystanie z analityki predykcyjnej w CRM do ustalania priorytetów szans sprzedaży to jedno. Pozwolenie, żeby oprogramowanie decydowało, kto dostanie umowę albo kredyt, to coś zupełnie innego.
Chatboty AI a AI Act: co obowiązki przejrzystości oznaczają dla obsługi klienta?
Ludzie powinni wiedzieć, kiedy rozmawiają z maszyną, a nie z człowiekiem. To sedno obowiązków przejrzystości dotyczących AI, które sprowadza się do kilku prostych zasad korzystania z AI w obsłudze klienta:
- Wyraźnie oznacz chatbota na początku każdej rozmowy.
- Zapewnij łatwe przejście do konsultanta.
- Nie przedstawiaj odpowiedzi przygotowanych przez AI jako napisanych osobiście, jeśli wprowadzałoby to odbiorcę w błąd.
Jest też problem błędnych lub zmyślonych odpowiedzi. Sprawdzanie przez człowieka treści kierowanych do klientów pozostaje najprostszym zabezpieczeniem przed nimi. Modele językowe potrafią brzmieć pewnie, a jednocześnie mylić się co do cen, warunków czy terminów (i rzadko same to sygnalizują). Za wynik odpowiada Twoja firma, a nie narzędzie. Zespoły, które już polegają na AI w kontaktach z klientami, powinny uczynić z takiej kontroli stały krok. Nie opcjonalny.
Co mała firma powinna zrobić teraz? Praktyczna lista kontrolna
Zacznij od spisu narzędzi AI i danych, które do nich trafiają. Potem ustal proste zasady sprawdzania i informowania. Żaden z poniższych kroków nie wymaga prawnika ani budżetu:
- Wypisz wszystkie narzędzia AI używane w sprzedaży i obsłudze klienta, także darmowe, do których pracownicy zapisali się sami.
- Zanotuj, kto korzysta z każdego z nich i na jakich danych.
- Ustal, jakich danych klientów nigdy nie wolno wklejać do zewnętrznych narzędzi.
- Wymagaj, żeby człowiek sprawdzał wszystko, co trafia do klientów.
- Informuj klientów, kiedy odpowiada chatbot.
- Zapytaj dostawców, jak zamierzają spełnić nowe przepisy.
- Przypadki graniczne sprawdź z doradcą prawnym.
Drugi krok staje się dużo łatwiejszy, gdy wiesz, gdzie znajdują się informacje o klientach. Jeśli historia kontaktów i zgłoszeń jest przechowywana w jednym systemie, na przykład w CRM takim jak EpicCRM, hostowanym na serwerach w UE, z rolami i uprawnieniami, widzisz, kto ma dostęp do czego, i możesz wychwycić, gdzie dane mogłyby wyciekać do zewnętrznych narzędzi. Przy okazji przejrzyj też dobre praktyki bezpieczeństwa CRM. To zamyka najczęstsze luki.
Na razie więc unijny AI Act dla małych firm sprowadza się do trzech nawyków: bądź przejrzysty wobec klientów, zadbaj, żeby za to, co wychodzi z firmy, odpowiadał człowiek, i prowadź pisemną listę używanych narzędzi. Wyrób je wcześnie, a gdy obowiązki zaczną być stosowane, niewiele zostanie do poprawienia.
FAQ
Czy unijny AI Act już obowiązuje?
Nie. W marcu 2024 roku został przyjęty przez Parlament i wciąż czeka na końcową weryfikację oraz formalne zatwierdzenie przez Radę. Wejdzie w życie dopiero po publikacji, a nawet wtedy jego obowiązki będą stosowane etapami.
Czy mała firma musi przestać korzystać z chatbotów AI?
Nie. Oczekiwany obowiązek to jasne poinformowanie, że klient rozmawia z AI, i zapewnienie możliwości kontaktu z człowiekiem. Widoczne oznaczenie na początku czatu oraz prosta opcja przekazania rozmowy załatwiają sedno sprawy.
Czy asystenci pisania AI używani przez handlowców są systemami wysokiego ryzyka?
Raczej nie, przynajmniej przy zwykłym przygotowywaniu e-maili i odpowiedzi. Człowiek nadal powinien sprawdzić wynik przed wysłaniem, a wrażliwe dane klientów nie powinny trafiać do promptów. Jeśli jednak narzędzie zaczyna podejmować decyzje dotyczące osób fizycznych, zamiast podpowiadać sformułowania, poproś doradcę, żeby się temu przyjrzał.
