Artykuły AI
Na VB Transform 2026 padło, że wdrożenia agentów blokuje niezawodność, nie modele. 85% firm pilotuje agenty, tylko 5% ma je na produkcji.
14 lipca 2026 na konferencji VB Transform w Menlo Park Bryan Silverthorn, Director of AGI Autonomy w Amazon, postawił tezę, że wdrożenia agentów AI blokuje niezawodność, a nie możliwości modeli. Przywołane na scenie dane Cisco pokazują skalę zjawiska, 85% firm pilotuje agenty, a tylko 5% dowiozło je na produkcję. Badanie VentureBeat Pulse z czerwca 2026 dokłada drugą połowę obrazu, połowa organizacji prowadzących ewaluacje wypuściła funkcję agentową, która przeszła testy wewnętrzne i mimo to spowodowała awarię widoczną dla klienta. Dla firmy planującej wdrożenie oznacza to jedno pytanie do zadania przed startem: skąd wiemy, że nasz test mierzy to, co faktycznie psuje się u klienta.
Na VB Transform 2026, konferencji poświęconej wdrożeniom agentów w firmach, która odbyła się 14 i 15 lipca 2026 w Menlo Park, Bryan Silverthorn z laboratorium AGI w Amazon opisał, dlaczego firmy zatrzymują się na etapie pilotażu. Silverthorn trafił do Amazona wraz z przejęciem Adept AI i odpowiada tam za trening agentów multimodalnych. Jego argument brzmiał: lepsze benchmarki nie rozwiążą tego problemu, bo mierzą co innego niż to, co zawodzi w praktyce.
Zamiast jednej oceny „agent działa dobrze" zaproponował rozbicie niezawodności na cztery wymiary, framework, który przypisał badaniom z Princeton:
Kontekst liczbowy podał VentureBeat, powołując się na własne badanie Pulse przeprowadzone w czerwcu 2026 na 157 respondentach z organizacji zatrudniających powyżej 100 osób. Połowa firm, które w ogóle prowadzą ewaluacje, wdrożyła agenta lub funkcję opartą na modelu językowym, która przeszła testy wewnętrzne i spowodowała awarię widoczną dla klienta. Dwie trzecie badanych dopuszcza już wdrożenia zmian na produkcję wyłącznie na podstawie automatycznej ewaluacji, bez człowieka w pętli, albo świadomie buduje systemy w tę stronę. Jednocześnie tylko jedna firma na dwadzieścia w pełni ufa tej automatycznej ewaluacji, a najczęściej wskazywanym powodem nieufności, u 29% respondentów, jest rozjazd między wynikiem testu a realnym efektem.
Osobne badanie tego samego wydawcy wskazuje, skąd biorą się błędy. 57% firm w ciągu ostatnich sześciu miesięcy namierzyło odpowiedź agenta podaną z pełnym przekonaniem i jednocześnie błędną, której źródłem był brakujący lub niespójny kontekst biznesowy po stronie firmy.
Kolejność wydatków w większości organizacji jest odwrotna do kolejności ryzyka. Budżet idzie na zbudowanie agenta, a nie na sprawdzenie, czy da się go bezpiecznie wypuścić. Efektem jest pilotaż, który robi wrażenie na demie i nigdy nie wychodzi poza jeden dział, bo nikt nie potrafi wziąć odpowiedzialności za jego zachowanie przy 300 sprawach dziennie.
Drugi powód jest finansowy. Gartner szacuje, że do 2030 roku nawet 234 mld USD wydatków na aplikacje biznesowe będzie wystawionych na tak zwany agentic arbitrage, czyli sytuację, w której agenty wykonują pracę w wielu systemach naraz i ograniczają potrzebę korzystania z klasycznych interfejsów. George Brocklehurst z Gartnera podsumował zmianę zdaniem, że firmy przestają kupować oprogramowanie głównie dla ludzi i zaczynają kupować je dla agentów. Jeśli agent staje się operatorem procesu, jego jakość przestaje być kwestią wygody użytkownika i staje się kwestią kosztu operacyjnego oraz odpowiedzialności wobec klienta.
Trzeci powód dotyczy struktury odpowiedzialności. Kiedy odpowiedź agenta trafia do klienta bez przeglądu, ryzyko przenosi się z zespołu technicznego na obsługę klienta, sprzedaż i księgowość. Bez wcześniejszej definicji progu jakości i właściciela procesu ten transfer odbywa się po cichu, a firma dowiaduje się o nim z reklamacji.
Problem biznesowy. Powtarzalne pytania o status zamówienia, warunki zwrotu i terminy zajmują większość czasu zespołu, a czas odpowiedzi rośnie w szczytach sprzedażowych.
Rozwiązanie AI. Agent odpowiadający na pytania na podstawie firmowej bazy wiedzy i danych z systemu zamówień, z automatyczną eskalacją do człowieka przy sprawach spoza zakresu.
Dane i procesy do wdrożenia. Aktualna baza wiedzy z jednym właścicielem treści, dostęp do statusu zamówień w trybie odczytu, archiwum 3 do 6 miesięcy realnych zgłoszeń jako zestaw testowy, jasna lista tematów, których agent nie obsługuje.
Potencjalny efekt. Skrócenie czasu pierwszej odpowiedzi i przesunięcie zespołu na sprawy wymagające decyzji.
Ryzyko. Agent odpowie pewnie i błędnie, gdy baza wiedzy zawiera dwie sprzeczne wersje procedury. To dokładnie ten mechanizm, który namierzyło 57% firm w badaniu VentureBeat. Zanim uruchomisz agenta, uporządkuj źródło, z którego czyta.
Problem biznesowy. Przygotowanie oferty wymaga zebrania danych z cennika, historii klienta i warunków handlowych, co wydłuża odpowiedź na zapytanie o kilka dni.
Rozwiązanie AI. Agent kompletujący projekt oferty na podstawie zapytania, cennika i historii współpracy, przekazywany handlowcowi do zatwierdzenia.
Dane i procesy do wdrożenia. Jeden aktualny cennik jako źródło prawdy, reguły rabatowe zapisane wprost, dane z CRM o historii klienta, obowiązkowe zatwierdzenie ceny przez człowieka.
Potencjalny efekt. Krótszy czas reakcji na zapytanie i mniej ofert przygotowywanych od zera.
Ryzyko. Cena jest działaniem nieodwracalnym w oczach klienta. Błąd w rabacie kosztuje marżę albo wiarygodność, dlatego ten proces nie powinien działać bez potwierdzenia człowieka, nawet jeśli agent przechodzi testy.
Problem biznesowy. Ręczne przepisywanie danych z faktur i dopasowywanie ich do zamówień pochłania czas księgowości i generuje błędy w okresach zamknięcia miesiąca.
Rozwiązanie AI. Agent odczytujący dokumenty, uzupełniający pola i proponujący dekretację, z regułą przekazania do człowieka przy kwotach powyżej progu i przy niezgodności z zamówieniem.
Dane i procesy do wdrożenia. Zestaw historycznych dokumentów wraz z poprawnym rozksięgowaniem jako baza testowa, wykaz dostawców, próg kwotowy dla akceptacji ręcznej, log wszystkich decyzji agenta.
Potencjalny efekt. Mniej ręcznego przepisywania i krótsze zamknięcie miesiąca.
Ryzyko. Wysoka średnia poprawność ukrywa błędy w rzadkich formatach dokumentów. Mierz jakość osobno dla typowych i nietypowych przypadków, bo to jest wymiar odporności z frameworku opisanego na VB Transform.
Problem biznesowy. Handlowcy wchodzą na spotkania bez pełnego obrazu klienta, a notatki trafiają do CRM z opóźnieniem albo nie trafiają wcale.
Rozwiązanie AI. Agent przygotowujący briefing przed spotkaniem z historii kontaktów i ustaleń oraz proponujący aktualizację rekordu po spotkaniu, zatwierdzaną jednym kliknięciem.
Dane i procesy do wdrożenia. Uporządkowany CRM z jednym rekordem na klienta, dostęp do historii korespondencji, zdefiniowany zakres pól, które agent może zmieniać, oraz pól tylko do odczytu.
Potencjalny efekt. Lepiej przygotowane spotkania i pełniejsze dane w CRM bez dodatkowej pracy administracyjnej.
Ryzyko. Agent zapisujący dane bezpośrednio w CRM potrafi zanieczyścić bazę szybciej, niż zespół zdąży to zauważyć. Ogranicz zapis do wybranych pól i zostaw potwierdzenie po stronie handlowca.
Zbuduj zestaw testowy z realnych spraw. Weź 50 do 100 zgłoszeń, zapytań albo dokumentów z ostatnich miesięcy, razem z tym, jak człowiek je rozwiązał. To jest jedyny test, który mierzy rzeczywistość. Zestaw wymyślony przy budowie agenta mierzy wyobrażenie zespołu projektowego o rzeczywistości.
Zdefiniuj próg jakości przed uruchomieniem, nie po. Zapisz liczbę, przy której agent wchodzi na produkcję, na przykład odsetek spraw zamkniętych bez poprawki oraz zero błędów w kategorii nieodwracalnej. Bez tej liczby decyzja o wdrożeniu zapada na podstawie wrażenia z demonstracji.
Rozdziel działania odwracalne i nieodwracalne. Draft odpowiedzi, podsumowanie i propozycja to jedno. Wysłanie oferty, wystawienie dokumentu i zmiana danych klienta to drugie. Człowiek w pętli jest potrzebny tam, gdzie błędu nie da się cofnąć, a nie wszędzie.
Uporządkuj dane, zanim uruchomisz agenta. Dwie wersje procedury, nieaktualny cennik i trzy rekordy tego samego klienta zamieniają się w błędy podawane z pełnym przekonaniem. Wskazanie jednego źródła prawdy dla każdego obszaru jest tańsze niż naprawianie skutków.
Loguj i przeglądaj. Zapisuj wejście, odpowiedź i decyzję agenta oraz wyznacz cykliczny przegląd, na przykład raz w tygodniu przez pierwszy kwartał. Przegląd błędów jest źródłem kolejnych przypadków testowych.
Wyznacz właściciela procesu. Nie właściciela narzędzia, tylko osobę odpowiedzialną za wynik procesu, w którym pracuje agent. Ona decyduje o progu jakości, rozszerzeniu zakresu i wyłączeniu agenta.
Mierz skutek biznesowy, nie samą poprawność. Czas obsługi, odsetek spraw bez poprawki, liczba eskalacji i koszt błędu mówią zarządowi więcej niż ocena jakości odpowiedzi w skali od jednego do pięciu.
Test, który mierzy nie to co trzeba. Największe ryzyko nie polega na braku testów, tylko na testach, które dają fałszywe poczucie kontroli. Połowa firm w badaniu VentureBeat Pulse wypuściła funkcję po zdanych testach i zobaczyła awarię u klienta.
Automatyzacja decyzji o wdrożeniu. Dwie trzecie badanych organizacji dopuszcza wdrożenia bez człowieka w pętli, przy pięciu procentach pełnego zaufania do automatycznej ewaluacji. Ta różnica jest miejscem, w którym powstają incydenty.
Bezpieczeństwo danych i shadow AI. Kiedy oficjalny agent działa wolno albo nie obejmuje częstego przypadku, pracownicy wracają do prywatnych narzędzi i wklejają tam dane firmy. Zakres agenta trzeba dopasować do realnej pracy, inaczej wdrożenie generuje nowy kanał wycieku.
Koszt utrzymania. Zestaw testowy, logi i cykliczny przegląd to stały koszt, którego nie widać w wycenie pilotażu. Policz go przed startem, bo inaczej pojawi się jako powód wygaszenia projektu w drugim kwartale.
Brak właściciela procesu. Agent bez osoby odpowiedzialnej za wynik działa do pierwszego incydentu, po którym nikt nie ma mandatu do jego naprawy ani wyłączenia.
Zmiana bez retestu. Podmiana modelu, aktualizacja promptu albo zmiana w bazie wiedzy potrafi zmienić zachowanie agenta w obszarze, którego nikt nie dotykał. Każda z tych zmian powinna uruchamiać ten sam zestaw testowy.
Bariera wdrożeń agentów AI przesunęła się z możliwości modeli na możliwość udowodnienia, że agent zadziała poprawnie u klienta. 85% firm pilotuje agenty, 5% ma je na produkcji, a połowa organizacji prowadzących ewaluacje zobaczyła awarię po zdanych testach wewnętrznych.
Firma, która chce wyjść poza pilotaż, potrzebuje trzech rzeczy przed uruchomieniem: zestawu testowego zbudowanego z realnych historycznych spraw, zapisanego progu jakości oraz właściciela procesu z mandatem do wyłączenia agenta. Rozdzielenie działań odwracalnych od nieodwracalnych decyduje o tym, gdzie człowiek zostaje w pętli.
Uporządkowanie danych jest warunkiem wstępnym, a nie etapem po wdrożeniu. Sprzeczne procedury i nieaktualne cenniki zamieniają się w odpowiedzi podawane z przekonaniem i błędne, co potwierdziło 57% firm w ciągu ostatniego półrocza.