Wasi ludzie już używają AI. Pytanie brzmi, czy wiecie, co wysłali

Ktoś w Waszej firmie wkleił w zeszłym tygodniu umowę z klientem do czatu, żeby dostać streszczenie. Ktoś inny użył go do przeredagowania trudnego maila do dostawcy. Ktoś w finansach spróbował na zestawieniu liczb, którego nie powinien był eksportować.

Nikt z nich nie był lekkomyślny. To pomogło, było szybkie, a nikt im nie powiedział, gdzie jest granica. To jest AI w cieniu, to jest stan obecny w większości średnich firm i ciekawym pytaniem nie jest to, czy się dzieje.

Dlaczego zakaz nie działa

Jest niewidoczne. Prywatne konta, prywatne telefony, karty w przeglądarce. Zablokowanie domeny przesuwa zachowanie, a nie je zatrzymuje — i przesuwa je tam, gdzie widzicie jeszcze mniej.

Korzyść jest realna. Ludzie nie robią tego na złość. Robią to, bo zadanie, które zajmowało czterdzieści minut, zajmuje pięć — a proszenie ich o rezygnację wymaga lepszego powodu niż bo tak mówi regulamin.

Egzekwowanie bez inwigilacji jest niemożliwe. Monitoring potrzebny do prawdziwego wyegzekwowania zakazu jest bardziej ingerujący, niż większość firm chce być, i tworzy własne problemy.

Zakaz źle się starzeje. Te narzędzia są wbudowywane w oprogramowanie, za które już płacicie. Politykę mówiącą żadnego AI naruszą w ciągu roku Wasi obecni dostawcy — a wtedy cały dokument traci powagę.

Co jest naprawdę zagrożone

Warto być konkretnym, bo mgliste ostrzeżenia dają mglistą zgodność.

Zobowiązania poufności. Umowy z klientami często ograniczają, gdzie ich informacje mogą być przetwarzane. Wklejenie ich do niezatwierdzonej usługi może naruszyć porozumienie, które podpisała firma.

Dane osobowe. W świetle RODO administratorem jest firma. Który podmiot przetwarzający, na jakiej podstawie, z jakim okresem przechowywania i czy dane opuszczają kraj — to pytania mające właściciela, a właścicielem nie jest pracownik, który wkleił.

Materiał poufny jako dane treningowe. Wersje konsumenckie różnią się tym, co zatrzymują i wykorzystują. Warunki zwykle da się przeczytać i rzadko są czytane.

Trafność z konsekwencjami. Streszczenie, które pomija klauzulę, liczba, która się przestawia. Ryzykiem nie jest narzędzie, tylko zaufanie mu w czymś, czego nikt nie sprawdził.

Co zawiera działająca polityka

Zatwierdzone narzędzia, których ludzie naprawdę chcą używać. Polityka upada tego dnia, w którym droga legalna staje się gorsza od nielegalnej.

Klasy danych, prostym językiem. Nie poufne i niepoufne. Raczej: wewnętrzne szkice bez ograniczeń, cokolwiek z nazwą klienta wyłącznie do zatwierdzonego narzędzia, cokolwiek objęte konkretnym ograniczeniem umownym nigdzie. Zapisane tak, żeby człowiek zastosował to w dziesięć sekund.

Zapis na zatwierdzonej drodze. O co pytano, jaki materiał wykorzystano i kto pytał. Nie po to, żeby pilnować ludzi, tylko żeby dało się odpowiedzieć, gdy klient albo audytor w końcu zapyta.

Zatwierdzenie człowieka dla wszystkiego, co wychodzi. Wsparcie, które pisze szkice, jest użyteczne i bezpieczne. Wsparcie, które wysyła, jest tą częścią, która produkuje incydent.

Abolicja. Powiedzcie na głos, że ludzie, którzy dotąd używali tych narzędzi, nie mają kłopotów. Bez tego pierwsza wersja polityki da Wam teatr zgodności i żadnej informacji o tym, co naprawdę się działo.

Wersja, która działa

Dajcie ludziom coś dobrego, powiedzcie, gdzie jest granica, językiem, który da się zastosować, zapisujcie zatwierdzoną drogę i trzymajcie człowieka między maszyną a wszystkim nieodwracalnym.

To nie jest projekt technologiczny. To cztery decyzje i dokument — i jest to warte więcej niż jakiekolwiek narzędzie, które firma mogłaby w tym roku kupić.