- AI agenti jsou podle mnoha odborníků jednou z nejvíce nadějných oblastí umělé inteligence
- Technologie je však zároveň obrovským rizikem, jak vysvětlila třeba Meredith Whittaker, ředitelka Signalu
Obsah článku
AI agent – co to je?
Umělá inteligence je dnes natolik schopná, že zvládne provádět jednodušší úkoly za uživatele. Ten se tak nemusí obtěžovat používáním počítače, namísto toho si může třeba číst nebo koukat na film. AI se doslova ujme ovládání počítače, pohybuje kurzorem, může psát a v rámci operačního systému se rozhoduje a vnímá, co se na obrazovce odehrává. Agent tak může třeba otevřít prohlížeč, něco vyhledat a potom na základě dostupných informací poslat email. To vše s využitím přístupu do operačního systému uživatele.
AI jako hrozba?
Možná si říkáte, že to může být malinko nebezpečné, nechat něco ovládat počítač, kopírovat data, vyhodnocovat je a pak třeba nahlížet do soukromých konverzací. Nejste sami. Na to samé totiž upozorňuje i Meredith Whittaker, která vede firmu provozující jednu z nejbezpečnějších aplikací pro komunikaci textem nebo hlasem – Signal.
Meredith Whittaker uvedla jako příklad typický úkol pro AI agenta, který spočívá v objednání lístků na koncert. Pokud to celé umělá inteligence má zvládnout sama, potřebuje přístup do internetového prohlížeče, kalendáře, číslu kreditní karty a i třeba aplikaci Signal, aby odeslala informace o koncertu kamarádům. Dáváme tedy něčemu, co ovládá náš počítač, přístup k prakticky jakýmkoliv datům.
Problém je, že tím dáme agentovi možnost nahlížet do aplikací, které jinak komunikují šifrovaně a považujeme je za bezpečné. Umělá inteligence míchá všechna tato data dohromady, nakládá s nimi napříč systémem a není zatím schopna řešit vše lokálně, takže navíc odesílá citlivé informace i na nějaký server.
Budoucnost ukáže
Zatím to tedy vypadá, že AI agenti budou krom své užitečnosti možná i hrozbou. Bude třeba se vypořádat s faktem, že obcházejí všechny vrstvy zabezpečení a uživatelé si budou muset uvědomovat, k jakým datům jim dávají přístup. Dost možná nakonec třeba operační systémy dostanou zvláštní omezený režim nebo něco podobného, co AI agenty omezí a zajistí, že nebudou strkat nos kam nemají.
Zdroj: businessinsider, techcrunch
Obrázky: Midjourney
