Nadzór człowieka nad agentem AI: kiedy jest kontrolą, a kiedy tylko procedurą
Anthropic zmierzył we własnej telemetrii, że użytkownicy zatwierdzają około 93% próśb o uprawnienia, i wyciągnął z tego wniosek ważniejszy niż sam pomiar: zamiast nadzorować to, co agent robi, lepiej ograniczać to, co agent jest w stanie zrobić. Dla organizacji, która zapisała w polityce wewnętrznej zdanie „działania agenta zatwierdza człowiek”, to sygnał, że obecność człowieka w […]
Nadzór człowieka nad agentem AI: kiedy jest kontrolą, a kiedy tylko procedurą Dowiedz się więcej »
AI Threats