OpenAI prezentuje GPT-Red, AI, która atakuje własne modele, aby je wzmocnić
OpenAI zaprezentowało w środę 15 lipca 2026 roku zautomatyzowane narzędzie do red-teamingu o nazwie GPT-Red, które ma na celu wzmocnienie odporności GPT-5.6 na ataki związane z wstrzykiwaniem poleceń. Koncepcja opiera się na prostym stwierdzeniu: ludzkie metody testowania penetracyjnego nie nadążają za możliwościami modeli. Wyzwanie staje się coraz większe, ponieważ te luki bezpośrednio wpływają na bezpieczeństwo autonomicznych agentów.
W skrócie
- GPT-Red z powodzeniem zrealizował 84% scenariuszy oceny wewnętrznej dotyczących wstrzykiwania poleceń, w porównaniu do 13% dla ludzkich zespołów red-team.
- OpenAI wytrenowało GPT-Red za pomocą uczenia przez wzmocnienie w auto-konfrontacji, aby wzmocnić GPT-5.6 przed jego wdrożeniem.
- Fundacja Ethereum również wdrożyła agentów AI do audytu swojej krytycznej infrastruktury sieciowej w lipcu 2026 roku.
GPT-Red wywodzi się z tej logiki zautomatyzowanego bezpieczeństwa ofensywnego. Nazwa GPT-Red pochodzi od "red teaming", praktyki cyberbezpieczeństwa, która polega na celowym próbowaniu złamania systemu w celu zidentyfikowania jego słabości, zanim zostaną one wykorzystane przez atakującego.
OpenAI wyjaśnia, że model został wytrenowany za pomocą uczenia przez wzmocnienie w auto-konfrontacji (self-play). Generuje coraz bardziej wyrafinowane ataki związane z wstrzykiwaniem poleceń, podczas gdy modele obronne uczą się, jak im przeciwdziałać. Każdy udany atak następnie zasila trening GPT-5.6, który staje się bardziej odporny jeszcze przed wdrożeniem.
W jednym z przypadków badawczych cytowanych przez OpenAI, system zmanipulował autonomicznego agenta zarządzającego automatem sprzedającym, zmuszając go do obniżenia cen, zamówienia zapasów po obniżonej cenie i anulowania zamówienia innego klienta.
Luka została zgłoszona i naprawiona przed jakimkolwiek rzeczywistym wykorzystaniem. Przykład pokazuje, jak wstrzyknięcie polecenia może przekształcić asystenta w narzędzie do manipulacji, bez wiedzy użytkownika.
Liczba, która uderza w ogłoszeniu OpenAI, to różnica w wydajności mierzona wewnętrznie. W tych samych scenariuszach oceny, GPT-Red zrealizował 84% ataków związanych z wstrzykiwaniem poleceń, w porównaniu do zaledwie 13% dla ludzkich zespołów red-team.
OpenAI uzasadnia tę automatyzację w wiadomości opublikowanej na X. "W miarę jak możliwości modeli rosną, bezpieczeństwo i dostosowanie muszą ewoluować w tym samym tempie" - pisze firma.
Model działa poprzez auto-konfrontację adversarialną, precyzuje OpenAI. "GPT-Red uczy się poprzez auto-konfrontację adversarialną, jego celem jest wstrzykiwanie poleceń do różnych trudnych modeli obronnych" - szczegółowo opisuje firma.
Pętla karmi się sama, i to właśnie to, co badacze mieli na celu: silnik ciągłego doskonalenia, a nie jednorazowa kampania testowa.
GPT-Red przedłuża wieloletnie wysiłki w dziedzinie cyberbezpieczeństwa podejmowane przez OpenAI po publicznym sukcesie ChatGPT. Firma stworzyła w 2023 roku swoją sieć OpenAI Red Teaming, rekrutując zewnętrznych badaczy do testowania swoich modeli w poszukiwaniu luk przed publikacją.
Przejście na model zautomatyzowany oznacza zmianę biegu, ponieważ AI produkuje ataki na skalę nieosiągalną dla samych ludzi.
To ogłoszenie wpisuje się w szerszy ruch: ruch AI, która zabezpiecza AI. Wcześniej w lipcu 2026 roku Fundacja Ethereum ogłosiła, że wdrożyła agentów AI do audytu swojej krytycznej infrastruktury sieciowej, odkrywając lukę w oprogramowaniu używanym przez swoich klientów konsensusu.
OpenAI trzyma GPT-Red pod kluczem, ale widzi w tym błędne koło.
OpenAI zachowuje GPT-Red jako narzędzie czysto wewnętrzne. Model zawiera celowo rozwinięte zdolności ofensywne, co wyklucza jakąkolwiek publiczną dystrybucję. Firma widzi w tym jednak początek błędnego koła.
"Uważamy, że z GPT-Red zaczęliśmy odblokowywać podobny efekt treningowy dla bezpieczeństwa, gdzie modele dzisiejsze służą do uczynienia modeli jutrzejszych bardziej odpornymi, dostosowanymi i godnymi zaufania" - podsumowuje.
Podsumowując, OpenAI uczyniło z automatycznego ataku tarczę dla GPT-5.6, z różnicą wydajności, która budzi szacunek: 84% skuteczności dla GPT-Red w porównaniu do 13% dla ludzi. To przesunięcie w kierunku AI, która zabezpiecza inną AI, przekształca postawę bezpieczeństwa w branży, od laboratoriów po blockchainy.
Zastrzeżenie: Niniejsze treści mają wyłącznie charakter informacyjny i służą celom promocyjnym. Nie stanowią porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, wydarzenia online oraz powiązane z nimi informacje nie stanowią rekomendacji, zachęty ani zaproszenia do kupna, sprzedaży, handlu lub dokonywania innych transakcji na aktywach cyfrowych ani do korzystania z jakichkolwiek usług. Kryptowaluty cechują się wysoką zmiennością i mogą prowadzić do utraty środków. Usługi WEEX oraz wydarzenia online mogą nie być dostępne we wszystkich regionach i podlegają obowiązującym przepisom prawa, regulacjom oraz wymogom kwalifikacyjnym. Użytkownik ponosi odpowiedzialność za zapewnienie zgodności korzystania z usług WEEX z lokalnymi przepisami prawa oraz za staranną ocenę ryzyka przed podjęciem jakichkolwiek działań związanych z kryptowalutami.
Możesz również polubić

Czy używanie iPhone'a jako portfela kryptowalutowego? ZachXBT i Roman Storm dzielą się swoimi opiniami

Trump rozpoczyna bezpośrednie negocjacje w sprawie 'klauzuli etycznej'... próba osiągnięcia porozumienia w Senacie w sprawie ustawy CLARITY

Branża kryptowalutowa potrzebuje połączenia "budowniczych wiary" i "spekulantów"

XRP Ledger osiąga 8 milionów kont, a jego token spadł o 70%

Ledger wprowadza Agent Stack oparty na sprzęcie, aby zapobiec nieautoryzowanym transakcjom AI

Badania Dune pokazują, że 85% skoncentrowanej płynności DeFi jest niedostatecznie wykorzystywane, a roczne straty z tytułu opłat wynoszą 150 mln USD

Cztery miesiące finansowania 28 milionów dolarów: co sprawia, że Cyclops przyciąga inwestycje od Coinbase i Circle?

Wyniki BlackRock: Co warto wiedzieć o jego strategii kryptowalutowej

Tajemniczy skarbiec USDC Zama awansuje na 8. miejsce w Morpho

Bitget wprowadza 100 tokenizowanych akcji amerykańskich do jednego systemu marginesowego

Rebootowanie internetu: wewnątrz projektu open-source, który pozwala programom AI płacić sobie nawzajem

Gdy tradycyjne finanse nie docierają do ludzi w kryzysie, Bitcoin to robi

Avalanche potajemnie stał się publicznym łańcuchem RWA

Rozmowa z traderem Taiki Maeda: Rynek wszedł w okres rozsądnej alokacji, te 3 obszary wkrótce doświadczą gwałtownego wzrostu

Zełenski zamyka tajną furtkę Putina i uderza w kryptowaluty

Swift zbudował to, co XRP miało zastąpić. Wybrał depozyty.

Rada poparła nominację Koreckiego na nowego premiera: jaki skład rządu

Wzrost niepewności geopolitycznej i politycznej, jednoczesna rewaluacja narracji AI i obniżek stóp procentowych

Przewodnik po złotym interesie|Rialto współpracuje z Robinhood Crypto, aby zdobyć prawa do routingu zamówień
![[Krypto Zoom In od Kang Ryun-ho] Blockchain i ochrona prywatności, projektowanie ważniejsze niż technologia](/public-static/29_4631d65680.png?format=avif)
[Krypto Zoom In od Kang Ryun-ho] Blockchain i ochrona prywatności, projektowanie ważniejsze niż technologia

Odpowiedzialność AI: zarządzanie, w którym kontrola jest iluzją

Bitcoin, wzrost UTXO z stratami to okazja do akumulacji, analizuje analityk

Od pierwszej spółki blockchainowej do krawędzi wycofania, Canaan Technology w pułapce "zwierzęcia w kącie"

Kamień milowy w zakresie zgodności regulacyjnej: DTCC zakończył pierwszą transakcję z tokenizowanymi papierami wartościowymi w rzeczywistym środowisku

Inwestorzy instytucjonalni a ETF-y kryptowalutowe: Lekcje z USA i perspektywy Japonii|WebX2026

Trzy firmy z portfela a16z wskazują na następny krok Web3 | WebX2026

Ukraina przygotowuje trzy projekty produkcji szkła: kiedy się rozpoczną

Formuła 1 i kryptowaluty: Jak motorsport stał się ulubionym placem zabaw Web3

Bitcoinowy rajd „pożyczył siłę” bez popytu na rynku spot, mówi Bitfinex










