Najpierw polscy specjaliści użyli sztucznej inteligencji, żeby znaleźć luki w cudzym sprzęcie. Teraz OpenAI i NASK odwracają role i każą przyjrzeć się samej AI.
OpenAI ogłosiło współpracę z NASK, Państwowym Instytutem Badawczym, nad bezpieczeństwem i ochroną systemów sztucznej inteligencji. Po polskiej stronie całość poprowadzi Centrum Badań nad Bezpieczeństwem AI – krajowy instytut, którego zadaniem jest pilnować, żeby kolejne, coraz mocniejsze modele nie wymknęły się spod kontroli.
I to jest ciekawsze, niż brzmi.
Czym jest umowa OpenAI–NASK
Umowa OpenAI–NASK to porozumienie o wspólnych badaniach nad bezpieczeństwem zaawansowanej AI. Obie strony mają testować coraz potężniejsze modele, wyszukiwać ich słabe punkty i opracowywać mocniejsze zabezpieczenia. Na razie to ramy współpracy i wytyczanie obszarów, a nie gotowy, zamknięty projekt badawczy. Ale kierunek jest jasny: sprawdzać AI, zanim zrobią to za nas inni.
Mówiąc wprost: zamiast czekać, aż ktoś znajdzie w modelu dziurę i ją wykorzysta, lepiej znaleźć ją samemu – u siebie, w kontrolowanych warunkach.
Dyrektor NASK Radosław Nielek nie owija w bawełnę. Bezpieczeństwa AI nie da się zbudować w pojedynkę, to robota zespołowa. Po stronie OpenAI podobnie – firma przyznaje, że im zdolniejsze stają się modele, tym bardziej potrzebuje wiedzy spoza własnych murów.
Polska już to przećwiczyła
To nie jest znajomość od zera. W lipcu CERT Polska – zespół NASK odpowiadający za reagowanie na cyberataki – dostał dostęp do „cyberowych“ modeli OpenAI w ramach programu Daybreak.
Efekt? Sześć luk w oprogramowaniu RouterOS popularnych routerów MikroTik. Część z nich dało się połączyć w łańcuch, który pozwalał przejąć urządzenie bez żadnego logowania. Wszystkie zostały już załatane.
I tu jest najciekawszy zwrot. Tamten projekt polegał na tym, że AI szukała błędów w cudzym oprogramowaniu. Nowa umowa odwraca scenariusz – tym razem to AI trafia pod lupę. Polski instytut, który właśnie udowodnił, że potrafi wyciskać z tych modeli realne wyniki, dostaje je teraz do rozbierania na części.
Dla OpenAI to logiczny wybór. Dla Polski – miejsce w gronie, w którym do tej pory byli głównie wybrani: firma współpracuje w tej materii m.in. z brytyjskim AI Security Institute i amerykańskim CAISSI.
Dlaczego to ważne
Bo bezpieczeństwo przestaje być hasłem z konferencji, a staje się konkretną robotą – robioną też w Warszawie.
Im więcej potrafią modele, tym więcej mogą popsuć, jeśli ktoś je źle poprowadzi albo one same zaczną kombinować. OpenAI od miesięcy przepycha pomysł międzynarodowych standardów dla najpotężniejszych systemów: niezależna ocena ryzyka, testowanie zabezpieczeń, zgłaszanie incydentów i ludzki nadzór nad AI, która prowadzi własne badania. Umowa z NASK to ten plan w praktyce, a nie na slajdzie.
Dla czytelnika sygnał jest prosty: bezpieczeństwo sztucznej inteligencji nie dzieje się „gdzieś w Dolinie Krzemowej“. Dzieje się również u nas – i to po stronie tych, którzy już pokazali, że potrafią.
A jeśli polscy eksperci znajdą w modelach OpenAI to, czego nie znalazł nikt inny? Cóż, będzie to całkiem niezła wizytówka.
źródło: artificialintelligence-news.com
Dodaj komentarz