Bariery ochronne (AI)
Warstwy ochronne wokół LLM-a, które sprawdzają i ograniczają to, co wchodzi i wychodzi — blokują szkodliwe zapytania, filtrują niewłaściwe odpowiedzi, pilnują tematu lub wymuszają format. Osobna warstwa bezpieczeństwa ponad własnym wytrenowaniem modelu.
Po co: nie można liczyć, że wbudowane dopasowanie modelu zawsze zadziała (jailbreaki, przypadki brzegowe), więc dodaje się kontrole zewnętrzne. Rodzaje: bariery wejściowe (wykrywają prompt injection, zakazane tematy i dane osobowe, zanim trafią do modelu), wyjściowe (filtrują treści nienawistne lub niebezpieczne, sprawdzają, czy odpowiedź mieści się w dozwolonych tematach, walidują format i schemat) oraz polityki dialogu (określają, o czym bot może rozmawiać). Realizuje się je regułami, klasyfikatorami lub osobnym LLM-em w roli „sędziego”. Narzędzia: NVIDIA NeMo Guardrails, Guardrails AI, Llama Guard. Kompromis: zbyt ciasne bariery dają fałszywe odmowy i irytujące „nie mogę w tym pomóc”, zbyt luźne przepuszczają problemy. Standard w produkcyjnych systemach LLM. Powiązane z jailbreakiem i ustrukturyzowanym wyjściem.