Demonstracja AI może dowieść, że model odpowiada na polecenie. Działająca funkcja biznesowa musi również określać, skąd pochodzą informacje, co dzieje się po odpowiedzi i kto odpowiada za niepewny rezultat.
01Zacznij od decyzji lub zadania#
Opisz pracę, która powinna stać się łatwiejsza. Jeśli celu nie da się wyjaśnić bez nazwania modelu, proces może nie być jeszcze wystarczająco jasny.
02Zmapuj przepływ informacji#
- Określ zatwierdzone źródła danych wejściowych.
- Ustal, jakie dane nie mogą trafić do systemu.
- Określ format wyniku i jego następne miejsce docelowe.
- Zachowaj ślad audytowy tam, gdzie wymaga tego ryzyko.
03Świadomie zaprojektuj weryfikację przez człowieka#
Weryfikacja przez człowieka nie jest ogólną etykietą bezpieczeństwa. Określ, które wyniki wymagają akceptacji, co musi zobaczyć osoba sprawdzająca i jak poprawki wracają do procesu.
04Zaplanuj stany awaryjne#
Proces powinien obsługiwać brak kontekstu, niedostępne usługi i wyniki o niskiej pewności bez udawania pewności. Jasna ścieżka awaryjna jest częścią doświadczenia użytkownika.
05Mierz proces, nie efekt nowości#
Sprawdź, czy cały proces staje się jaśniejszy, bardziej spójny lub łatwiejszy w obsłudze. Użyteczny system to taki, który odpowiedzialny zespół potrafi zrozumieć, monitorować i rozwijać po pierwszej demonstracji.