OpenAI prezentuje GPT-Red, AI, która atakuje własne modele, aby je wzmocnić

By: rootdata|2026/07/16 13:00:00
0
Udostępnij
copy
Oceń nas w GoogleOceń nas w Google

OpenAI zaprezentowało w środę 15 lipca 2026 roku zautomatyzowane narzędzie do red-teamingu o nazwie GPT-Red, które ma na celu wzmocnienie odporności GPT-5.6 na ataki związane z wstrzykiwaniem poleceń. Koncepcja opiera się na prostym stwierdzeniu: ludzkie metody testowania penetracyjnego nie nadążają za możliwościami modeli. Wyzwanie staje się coraz większe, ponieważ te luki bezpośrednio wpływają na bezpieczeństwo autonomicznych agentów.

W skrócie

  • GPT-Red z powodzeniem zrealizował 84% scenariuszy oceny wewnętrznej dotyczących wstrzykiwania poleceń, w porównaniu do 13% dla ludzkich zespołów red-team.
  • OpenAI wytrenowało GPT-Red za pomocą uczenia przez wzmocnienie w auto-konfrontacji, aby wzmocnić GPT-5.6 przed jego wdrożeniem.
  • Fundacja Ethereum również wdrożyła agentów AI do audytu swojej krytycznej infrastruktury sieciowej w lipcu 2026 roku.

GPT-Red wywodzi się z tej logiki zautomatyzowanego bezpieczeństwa ofensywnego. Nazwa GPT-Red pochodzi od "red teaming", praktyki cyberbezpieczeństwa, która polega na celowym próbowaniu złamania systemu w celu zidentyfikowania jego słabości, zanim zostaną one wykorzystane przez atakującego.

OpenAI wyjaśnia, że model został wytrenowany za pomocą uczenia przez wzmocnienie w auto-konfrontacji (self-play). Generuje coraz bardziej wyrafinowane ataki związane z wstrzykiwaniem poleceń, podczas gdy modele obronne uczą się, jak im przeciwdziałać. Każdy udany atak następnie zasila trening GPT-5.6, który staje się bardziej odporny jeszcze przed wdrożeniem.

W jednym z przypadków badawczych cytowanych przez OpenAI, system zmanipulował autonomicznego agenta zarządzającego automatem sprzedającym, zmuszając go do obniżenia cen, zamówienia zapasów po obniżonej cenie i anulowania zamówienia innego klienta.

Luka została zgłoszona i naprawiona przed jakimkolwiek rzeczywistym wykorzystaniem. Przykład pokazuje, jak wstrzyknięcie polecenia może przekształcić asystenta w narzędzie do manipulacji, bez wiedzy użytkownika.

Liczba, która uderza w ogłoszeniu OpenAI, to różnica w wydajności mierzona wewnętrznie. W tych samych scenariuszach oceny, GPT-Red zrealizował 84% ataków związanych z wstrzykiwaniem poleceń, w porównaniu do zaledwie 13% dla ludzkich zespołów red-team.

OpenAI uzasadnia tę automatyzację w wiadomości opublikowanej na X. "W miarę jak możliwości modeli rosną, bezpieczeństwo i dostosowanie muszą ewoluować w tym samym tempie" - pisze firma.

Model działa poprzez auto-konfrontację adversarialną, precyzuje OpenAI. "GPT-Red uczy się poprzez auto-konfrontację adversarialną, jego celem jest wstrzykiwanie poleceń do różnych trudnych modeli obronnych" - szczegółowo opisuje firma.

Pętla karmi się sama, i to właśnie to, co badacze mieli na celu: silnik ciągłego doskonalenia, a nie jednorazowa kampania testowa.

GPT-Red przedłuża wieloletnie wysiłki w dziedzinie cyberbezpieczeństwa podejmowane przez OpenAI po publicznym sukcesie ChatGPT. Firma stworzyła w 2023 roku swoją sieć OpenAI Red Teaming, rekrutując zewnętrznych badaczy do testowania swoich modeli w poszukiwaniu luk przed publikacją.

Przejście na model zautomatyzowany oznacza zmianę biegu, ponieważ AI produkuje ataki na skalę nieosiągalną dla samych ludzi.

To ogłoszenie wpisuje się w szerszy ruch: ruch AI, która zabezpiecza AI. Wcześniej w lipcu 2026 roku Fundacja Ethereum ogłosiła, że wdrożyła agentów AI do audytu swojej krytycznej infrastruktury sieciowej, odkrywając lukę w oprogramowaniu używanym przez swoich klientów konsensusu.

OpenAI trzyma GPT-Red pod kluczem, ale widzi w tym błędne koło.

OpenAI zachowuje GPT-Red jako narzędzie czysto wewnętrzne. Model zawiera celowo rozwinięte zdolności ofensywne, co wyklucza jakąkolwiek publiczną dystrybucję. Firma widzi w tym jednak początek błędnego koła.

"Uważamy, że z GPT-Red zaczęliśmy odblokowywać podobny efekt treningowy dla bezpieczeństwa, gdzie modele dzisiejsze służą do uczynienia modeli jutrzejszych bardziej odpornymi, dostosowanymi i godnymi zaufania" - podsumowuje.

Podsumowując, OpenAI uczyniło z automatycznego ataku tarczę dla GPT-5.6, z różnicą wydajności, która budzi szacunek: 84% skuteczności dla GPT-Red w porównaniu do 13% dla ludzi. To przesunięcie w kierunku AI, która zabezpiecza inną AI, przekształca postawę bezpieczeństwa w branży, od laboratoriów po blockchainy.

Cena --

--

Zastrzeżenie: Niniejsze treści mają wyłącznie charakter informacyjny i służą celom promocyjnym. Nie stanowią porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, wydarzenia online oraz powiązane z nimi informacje nie stanowią rekomendacji, zachęty ani zaproszenia do kupna, sprzedaży, handlu lub dokonywania innych transakcji na aktywach cyfrowych ani do korzystania z jakichkolwiek usług. Kryptowaluty cechują się wysoką zmiennością i mogą prowadzić do utraty środków. Usługi WEEX oraz wydarzenia online mogą nie być dostępne we wszystkich regionach i podlegają obowiązującym przepisom prawa, regulacjom oraz wymogom kwalifikacyjnym. Użytkownik ponosi odpowiedzialność za zapewnienie zgodności korzystania z usług WEEX z lokalnymi przepisami prawa oraz za staranną ocenę ryzyka przed podjęciem jakichkolwiek działań związanych z kryptowalutami.

Możesz również polubić

iconiconiconiconiconiconiconicon
Obsługa klienta:@weikecs
Współpraca biznesowa:@weikecs
Quant trading i MM:bd@weex.com
Program VIP:support@weex.com