Počítače a internet

Článků v rubrice: 75

Jak mohou roboti zneužít naši důvěřivost

Roboti se stávají čím dál rychleji součástí našich všedních životů. Proto bychom neměli podceňovat jejich vliv na společnost a možná bezpečnostní rizika, která jejich začleňování do běžného života přinese. Společný výzkum společnosti Kaspersky a belgické univerzity v Gentu ukázal, že roboti mohou od lidí získat citlivé informace. V případě, že si robot získá důvěru lidí, jsou uživatelé náchylnější k tomu, aby se nechali robotem přesvědčit k provedení nebezpečných kroků. V určitých situacích může například přítomnost robota mít vliv na ochotu lidí poskytnout přístup do zabezpečených budov.

Fotogalerie (1)
Ilustrační obrázek Kaspersky

Svět se rychle blíží k době, kdy bude velká část domácností a průmyslových odvětví spoléhat na automatizaci a používání robotických systémů. Podle některých odhadů se roboti a robotické systémy stanou pro zámožné domácnosti do roku 2040 standardem. Většina z nich je v současné chvíli ve stádiu výzkumu a laboratorních testování, a proto je příliš brzy bavit se o jejich kybernetickém zabezpečení. Výzkum společnosti Kaspersky a univerzity v Gentu ale poodhalil novou rizikovou oblast, která se váže k využívání robotů. Jde konkrétně o sociální vliv, který mohou mít roboti na lidské chování – a s ním spojená potenciální rizika.

„Lidské“ interakce

Výzkum se zaměřil na vliv speciálních sociálních robotů – robotů, kteří byli navrženi a naprogramováni k přímé interakci s člověkem, k čemuž používají „lidské“ kanály jako je řeč nebo nonverbální komunikace. Do výzkumu se zapojilo 50 dobrovolníků. Za předpokladu, že sociální roboti mohou být hacknuti a tím pádem ovládáni cizím kyberzločincem, se výzkum zaměřil na bezpečnostní rizika spojená s roboty. Ti mohou aktivně ovlivňovat své uživatele, aby provedli následující kroky:

  • Získat přístup do jakýchkoliv prostor. Výzkumníci umístili experimentálního robota k zabezpečeným dveřím jedné z multifunkčních budov v centru belgického Gentu. Robot se ptal personálu, zda by je mohl následovat při vstupu do budovy. Do ní se ale smí dostat pouze zaměstnanci, kteří pro vstup musejí použít speciální čipovou kartu. I když v průběhu experimentu ne všichni zaměstnanci robotovi vyhověli, celých 40 % z nich nechalo dveře otevřené, aby se robot mohl dostat dovnitř. Ve druhé situaci, kdy byl robot přestrojen za poslíčka s pizzou a držel krabici s logem světoznámé značky rychlého občerstvení, byl pohotově většinou zaměstnanců přijat. Neprojevovali snahu mu nevyhovět a nezpochybňovali jeho nárok na vstup do zabezpečené oblasti!
  • Získat citlivé informace. Ve druhé části experimentu se výzkumníci zaměřili na získání citlivých informací, které by mohly být užitečné při resetování hesel (datum narození, značka prvního automobilu, nejoblíbenější barva apod.). Sociální robot měl v tomto případě za úkol vést s účastníky přátelský rozhovor. Výzkumníkům se podařilo získat potřebné informace od všech účastníků až na jednoho. V průměru účastníci prozradili jednu informaci za minutu.

„Na začátku našeho výzkumu jsme se zaměřili na software, který se používá při vývoji robotických systémů. Zajímavé je, že se vývojáři vědomě vyhýbají bezpečnostním mechanismům a místo toho věnují pozornost podpoře efektivity a uživatelské přívětivosti. Jak ale ukázal náš experiment, neměli by ve finální fázi vývoje na zabezpečení zapomenout. Chtěli bychom proto naším společným projektem s univerzitou v Gentu zvýšit veřejné povědomí o této problematice a pobídnout kolegy v oboru, aby se věnovali kybernetickému zabezpečení robotů,“ komentuje Dmitry Galov, bezpečnostní odborník ze společnosti Kaspersky. „Vědecká literatura dokládá, že důvěra v roboty, a především v sociální roboty, je skutečná a lze ji použít k přesvědčování lidí, aby jednali, jak pachatel chce, nebo aby odhalili určité informace. Funguje přitom přímá úměra – čím lidštější robot je, tím větší má šanci přesvědčit a ovlivnit. Náš experiment prokázal, že tato situace může přinést značná bezpečnostní rizika – lidé mají tendenci nebrat roboty vážně, když jsou laskaví a důvěryhodní. Proto jsme se rozhodli iniciovat diskuzi o těchto problémech a rizicích, které nás v blízké budoucnosti čekají,“ doplnil Tony Belpaeme, profesor na univerzitě v Gentu zaměřující se na umělou inteligenci a robotizaci.

Celou studii si můžete přečíst na blogu Securelist.com.

Další informace na https://futurism.com/when-will-humanoid-robots-enter-our-homes-and-transform-our-lives

a na www.kaspersky.cz.

O společnosti Kaspersky

Kaspersky je mezinárodní společnost zabývající se kybernetickou bezpečností. Byla založena v roce 1997. Své rozsáhlé odborné znalosti kybernetických hrozeb využívá Kaspersky při vytváření bezpečnostních řešení a služeb nové generace zaměřených na ochranu podniků, kritické infrastruktury, vládních organizací a uživatelů po celém světě. Portfolio společnosti zahrnuje špičkové zabezpečení koncových bodů a specializovaná bezpečnostní řešení a služby sloužící k ochraně proti sofistikovaným a neustále se vyvíjejícím digitálním hrozbám. Technologie Kaspersky chrání celosvětově více než 400 milionů uživatelů a 270 tisíc korporátních klientů.

 

(red)
Poslat odkaz na článek

Opište prosím text z obrázku

Nejnovější články

Zátěžový test dobíječek elektromobilů

Premiérový český test souběžného dobíjení šesti elektromobilů na třech stanicích a současně málo vídané doplňování baterií 12 e-aut jedné značky v místě a čase.

Oblíbená Soutěž „Vím proč“ startuje pošesté

Na tři minuty se stát Newtonem, Einsteinem nebo Curie-Sklodowskou, natočit zajímavý fyzikální pokus a vyhrát 200 000 korun pro svou školu.

Plovoucí fotovoltaické elektrárny – řešení pro země s nedostatkem půdy

Kromě nestálosti a nepředvídanosti výroby jsou zřejmě největší nevýhodou solárních elektráren velké zábory zemědělské půdy. Tuto nevýhodu se stále více zemí snaží řešit umisťováním fotovoltaických panelů na střechy továrních hal, obchodních center, úřadů i obytných domů.

Jak améby zvládly bludiště

Možná jste slyšeli o pověstném labyrintu Jindřicha VIII., který se rozprostírá na ploše 1 300 m² poblíž paláce Hampton Court u Londýna. Labyrint byl založen kolem roku 1690, je ze sestříhaného živého plotu a abyste jej celý prošli, musíte ujít 800 m.

Vyrobte si model tokamaku 3D tiskem

Mnoho nadšenců již dnes vlastní 3D tiskárnu, nebo má přístup k nějaké profesionální. Což takhle vyrobit si tokamak? Totiž alespoň jeho názorný a rozebíratelný model. Program je nyní k dispozici volně na stránkách ITER pro studenty, učitele a „fúzní nadšence“ po celém světě.

Nejnovější video

Bez jaderné energie se ve vesmíru daleko nedostaneme

Krátké výstižné video z dílny Mezinárodní agentury pro atomovou energii ve Vídni ukazuje využití jaderné energie a jaderných technologií při výzkumu vesmíru. Ne každý ví, že jádro pohání vesmírné sondy už po desetiletí. Zopakujme si to. (Film je v angličtině.)

close
detail