Cel
Określony cel i ograniczony zakres zadania.
Zaufanie BLUETRIX
Odpowiedzialność przed autonomią.
Kontrolowane użycie AI zaczyna się od określonego celu, jasnych uprawnień, udokumentowanego kontekstu i nadzoru człowieka odpowiedniego do ryzyka.
Przed wywołaniem modelu
Governance zaczyna się przed pierwszym wywołaniem modelu.
- Jakie zadanie wykonuje agent?
- W jakim procesie jest używany?
- Z jakich danych może korzystać?
- Jaki model jest używany?
- Jaki wynik powinien powstać?
- Czy może rekomendować lub działać?
- Kiedy wymagana jest weryfikacja przez człowieka?
- Jak dokumentowane jest jego użycie?
- Jak wykrywane i korygowane są błędy?
Poziomy governance
Sześć poziomów kontrolowanej AI biznesowej.
Dane
Jawnie zatwierdzone źródła danych i granice kontekstu.
Model
Możliwy do prześledzenia model, dostawca, wersja i konfiguracja.
Wynik
Określona struktura wyniku, wymagania jakościowe i granice.
Uprawnienie
Klasyfikacja jako informacja, sygnał, treść, rekomendacja lub autoryzowane działanie.
Nadzór
Weryfikacja przez człowieka i eskalacja odpowiednia do ryzyka i wpływu.
Model decyzyjny
Wygenerowanie treści nie tworzy prawdy biznesowej.
- 1Zaobserwowane fakty
- 2Pochodne sygnały
- 3Treści wygenerowane przez AI
- 4Rekomendacje AI
- 5Kontrole oparte na regułach
- 6Autoryzowane automatyzacje
- 7Wiążące decyzje
Wyspecjalizowani agenci
Agenci wyspecjalizowani zamiast nieograniczonych.
- Rozpoznawanie intencji
- Ocena leada
- Podsumowanie rozmowy
- Przygotowanie działania następczego
- Koordynacja terminu
- Analiza obiekcji
- Rozpoznawanie sentymentu i pilności
- Wzbogacanie zatwierdzonych informacji
Przejrzystość AI
Informacje tylko w zakresie faktycznej dostępności.
- Identyfikator i nazwa agenta
- Cel i kategoria
- Model i wersja
- Wersja instrukcji
- Źródła danych i narzędzia
- Obszary zastosowania
- Użycie, opóźnienie i koszt
- Ograniczenia i zatwierdzenie
- Ostatnia zmiana
Nadzór człowieka
Kontrola odpowiednia do ryzyka i wpływu.
Weryfikacja przed użyciem
Wynik jest sprawdzany przed użyciem.
Zatwierdzenie przed działaniem
Działanie następcze wymaga zatwierdzenia.
Obsługa wyjątków
Niejasne lub ryzykowne przypadki są przekazywane człowiekowi.
Ciągłe monitorowanie
Jakość, błędy, koszty i skutki są monitorowane.
Przejrzystość wobec osób
Czytelnie oznaczaj interakcję z AI.
Konkretny obowiązek zależy od przypadku użycia i roli prawnej.
Oficjalne wytyczne UEEU AI Act- Oznaczenie agenta AI
- Informacja o treściach wspieranych przez AI
- Widoczne przekazanie człowiekowi
- Wyjaśnienie celu
- Możliwość kontaktu lub złożenia skargi
- Oznaczenie wygenerowanych treści, jeśli jest wymagane
Ryzyko i ewaluacja
Im wyższe ryzyko, tym silniejsza kontrola i dokumentacja.
- Wpływ na ludzi
- Wrażliwość danych
- Stopień automatyzacji i odwracalność
- Konsekwencje finansowe lub prawne
- Ryzyko dyskryminacji
- Korekta przez człowieka
- Poprawność biznesowa i trafność
- Nakład na korekty, opóźnienie i koszt
Proces incydentu AI
Ograniczaj, koryguj i dokumentuj problemy.
- 1Wykrycie wyniku
- 2Identyfikacja agenta i stanu modelu
- 3Weryfikacja kontekstu i źródeł
- 4Ograniczenie skutków
- 5Korekta wyniku
- 6Dostosowanie konfiguracji
- 7Ponowne testowanie
- 8Udokumentowanie zmiany
BLUETRIX zapewnia techniczne i organizacyjne mechanizmy kontrolowanego wykorzystania AI. Dopuszczalność prawna i odpowiednia konfiguracja konkretnego zastosowania zależą od jego celu, ryzyka, kontekstu danych i modelu odpowiedzialności.
Stosuj AI tam, gdzie cel, kontrola i odpowiedzialność są jasne.
Dowiedz się więcej o rolach agentów, granicach decyzji i nadzorze człowieka.