Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Bądź na bieżąco!

Zapisz się do newslettera

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Pomóż w rozwoju naszego portalu

Wspieram

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Reklama

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

2020-12-17 20:25

Oceń: +4 0

Reklama

Wybrane dla Ciebie

Legnica: Pijany i półnagi 35-latek zakłócał nabożeństwo w kościele

2025-09-19 15:12

[ TEMATY ]

Legnica

Adobe Stock

ZDJĘCIE ILUSTRACYJNE

ZDJĘCIE ILUSTRACYJNE

Legniccy policjanci interweniowali wobec mężczyzny, który zakłócił przebieg nabożeństwa w kościele. 35-latek swoim zachowaniem obrażał uczucia religijne wiernych, był agresywny i wulgarny. Dzięki szybkim i trafnym działaniom dyżurnego Komendy Miejskiej Policji w Legnicy, mężczyzna został szybko namierzony i zatrzymany. Dziś usłyszy zarzuty, za które grozi kara nawet do 2 lat pozbawienia wolności.

Do dyżurnego Komendy Miejskiej Policji w Legnicy wpłynęło zgłoszenie, z którego wynikało, że podczas nabożeństwa pijany i półnagi mężczyzna wszedł do świątyni, przeszedł przez całą jej długość i położył się przed ołtarzem. Gdy wierni próbowali go wyprowadzić, zaczął krzyczeć wulgaryzmy i obrażać uczucia religijne zgromadzonych. Ostatecznie udało się go wyprowadzić z kościoła, jednak mężczyzna oddalił się z miejsca zdarzenia.
CZYTAJ DALEJ

Rozważanie: Młody chłopak chciał złożyć "Apostazję"

2025-09-19 07:22

[ TEMATY ]

rozważanie

Diecezja Bielsko-Żywiecka

Łaska lubi inicjatywę. Wyobraź sobie: do kancelarii parafialnej wchodzi osiemnastolatek. Chce oficjalnie dokonać apostazji, zrywa z wiarą, nie chce „fikcji”. Wszystko wydaje się przesądzone… Ale odrobina rozmowy, prosta modlitwa i odważna inicjatywa kapłana sprawiają, że chłopak wychodzi nie z papierem apostazji, lecz po spowiedzi i Komunii Świętej.

To jedno wydarzenie odsłania sens Ewangelii o nieuczciwym zarządcy. Jezus nie chwali oszustwa, ale wskazuje na spryt i przedsiębiorczość – tę ludzką zaradność, którą warto przenieść do spraw ducha. Dlatego w tym odcinku mówię o:
CZYTAJ DALEJ

Rzecznik Episkopatu: Przekaz medialny może być przestrzenią spotkania, dialogu i pojednania

2025-09-19 11:39

[ TEMATY ]

Ks. dr Leszek Gęsiak SJ

Karol Porwich/Niedziela

Ks. Leszek Gęsiak

Ks. Leszek Gęsiak

Nasze słowa powinny pomagać odbiorcom spokojnie i świadomie interpretować rzeczywistość, pobudzać do refleksji, poszukiwania prawdy i dialogu. Takie podejście sprawia, że komunikacja staje się narzędziem pokoju – powiedział rzecznik Konferencji Episkopatu Polski ks. Leszek Gęsiak SJ z okazji przypadającego 21 września Dnia Środków Społecznego Przekazu. Dzień ten w Kościele w Polsce obchodzony jest w trzecią niedzielę września.

Rzecznik KEP przyznał, że w ostatnich miesiącach, a nawet tygodniach, jesteśmy świadkami eskalacji konfliktów na różnych płaszczyznach życia politycznego i społecznego. „Pracownicy środków społecznego przekazu często wciągani są w toczące się konflikty i stają po którejś ze stron. Ale w komunikacji chodzi bardziej o bezstronność, o przedstawienie faktów i stanowiska każdej ze stron. W tym sensie przekaz medialny może być przestrzenią spotkania i dialogu” – zauważył ks. Gęsiak.
CZYTAJ DALEJ

Reklama

Najczęściej czytane

REKLAMA

W związku z tym, iż od dnia 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia Dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) uprzejmie Państwa informujemy, iż nasza organizacja, mając szczególnie na względzie bezpieczeństwo danych osobowych, które przetwarza, wdrożyła System Zarządzania Bezpieczeństwem Informacji w rozumieniu odpowiednich polityk ochrony danych (zgodnie z art. 24 ust. 2 przedmiotowego rozporządzenia ogólnego). W celu dochowania należytej staranności w kontekście ochrony danych osobowych, Zarząd Instytutu NIEDZIELA wyznaczył w organizacji Inspektora Ochrony Danych.
Więcej o polityce prywatności czytaj TUTAJ.

Akceptuję