Používání chytrých brýlí Meta s umělou inteligencí a LLM pro doxingové cizince

Nejnovější brýle pro rozšířenou realitu (AR) společnosti Meta, pojmenované Orion, možná minulý týden získaly významnou pozornost, ale projekt iniciovaný dvěma studenty Harvardu znovu podněcuje diskuse o chytrých brýlích Ray-Ban společnosti Meta.

Inteligentní brýle Ray-Ban Meta jsou vybaveny kamerou s vysokým rozlišením (HD) a integrovaným reproduktorem, což uživatelům umožňuje vychutnat si digitální zážitek bez použití rukou. S těmito brýlemi mohou uživatelé bezproblémově volat, poslouchat hudbu a pořizovat nebo živě streamovat fotografie a videa.

Ukázka vytvořená studenty AnhPhu Nguyen a Caine Ardayfio odhaluje, jak mohou videozáznamy z brýlí v kombinaci s technologií rozpoznávání obličeje potenciálně odhalit soukromé informace cizích lidí ve veřejném prostoru. Navzdory tomu, že základní technologie je dostupná léta, tato ukázka vyvolává pocit nepohodlí, zvláště když si mnoho lidí neuvědomovalo, jak snadno je taková technologie dostupná pro průměrného civilistu. To vedlo k tomu, že mnoho uživatelů označilo technologii za dystopickou, což odráží způsob, jakým si ji mnozí představovali. Přesto je to v současnosti realita.

Nguyen zveřejnil video na X (dříve Twitter), které předvádí technologii nazvanou I-XRAY v akci.

Jsme připraveni na svět, kde budou naše data vystavena na první pohled? @CaineArdayfio a já nabízíme odpověď na vaši ochranu zde: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

— AnhPhu Nguyen (@AnhPhuNguyen1) 30. září 2024

Tato technologie využívá kameru na brýlích k živému přenosu videa na jejich účet Instagram. Naprogramovali počítačovou aplikaci, která monitoruje proud a používá AI k identifikaci tváří.

Jakmile je obličej rozpoznán, je zpracován prostřednictvím služeb rozpoznávání obličeje, jako je PimEyes, které odpovídajícím způsobem spojují obrázek s veřejně dostupnými fotografiemi jednotlivce online. Tyto snímky jsou poté analyzovány pomocí velkých jazykových modelů (LLM) k získání informací, jako je jméno osoby, povolání a další. Tato data lze následně porovnat s veřejně dostupnými databázemi a odhalit telefonní čísla a dokonce i částečná čísla sociálního zabezpečení.

Jak již bylo zmíněno, téměř veškerá technologie používaná v I-XRAY je dostupná již léta, včetně fotoaparátů, nástrojů pro rozpoznávání obličejů, jako je PimEyes, a databází, jako jsou FastPeopleSearch a Cloaked.com.

Co umocňuje znepokojivou povahu této demonstrace, je nenápadný a okamžitý způsob, jakým funguje. Ray-Ban Meta Glasses 2 ve videu se podobají standardním brýlím, a přestože mají indikátor soukromí pro aktivní nahrávání videa, může být obtížné si toho v jasně osvětleném venkovním prostředí všimnout. V důsledku toho vás může osoba, která nosí tyto brýle, nahrát bez vašeho vědomí.

Autonomní povaha shromažďování informací navíc tento neklid zhoršuje. Zapojené LLM mohou odhalit podrobnosti, jako jsou jména a osobní informace, z různých online zdrojů automaticky, bez jakéhokoli lidského zásahu. Video ilustruje, jak tito studenti doxují jednotlivce na ulici a náhodně využívají shromážděné informace k předstírání známosti, jako by se setkali na společenské akci.

Primárním záměrem tohoto projektu je poukázat na to, jak bez námahy mohou cizinci přistupovat k osobním informacím v dnešním digitálním prostředí. Studentské duo se rozhodlo nezveřejnit žádný kód, ale sdílí metody pro jednotlivce, jak chránit jejich soukromí. Mnoho z těchto databází nabízí bezplatné služby, které pomáhají odstranit osobní údaje. Úplné odstranění vaší online přítomnosti však zůstává obtížným úkolem. Pomocí těchto opatření se můžete pokusit, aby byly vaše informace o něco méně dostupné.