Apple odhalil, jak chrání uživatelská data při vývoji umělé inteligence

• Apple zveřejnil prezentace z workshopu o ochraně soukromí v oblasti strojového učení
• Hlavním tématem byla diferenciální ochrana soukromí
• Mezi nejzajímavější studie patří nové přístupy k bezpečné analytice na zařízeních,

Apple pokračuje ve své snaze o větší transparentnost v oblasti výzkumu umělé inteligence a ochrany dat. Po nedávném zveřejnění materiálů z workshopu o strojovém učení zaměřeném na uživatele nyní zpřístupnil i prezentace z akce zaměřené na ochranu a soukromí ve strojovém učení, který se konal v březnu. Během dvoudenní hybridní akce odborníci z Applu, Microsoftu, Googlu a předních univerzit diskutovali o bezpečnosti, anonymizaci dat a dalších aspektech zodpovědného vývoje AI.

Diferenciální ochrana soukromí jako klíčový prvek

Většina studií se dotýká tématu diferenciální ochrany soukromí – metody, kterou Apple upřednostňuje už několik let. Princip spočívá v přidávání statistického šumu k uživatelským datům před jejich odesláním na servery. Díky tomu se daří chránit individuální soukromí, zatímco ve velkých souborech dat se i přes šum odhalují smysluplné vzorce.

Lokální pan-privacy pro federovanou analytiku

Studie vedená Guyem Rothblumem (Apple) navazuje na práci z roku 2010 a řeší ochranu dat přímo na zařízeních. Výzkum ukazuje, že pokud je zařízení opakovaně kompromitováno, tradiční metody sběru statistik představují riziko. Nový přístup využívá šifrované metody, které umožňují získat užitečné statistiky, aniž by byly odhaleny individuální aktivity uživatelů.

Škálovatelné soukromé vyhledávání s metodou Wally

Další prezentace, na níž se podíleli Rehan Rishi a Haris Mughees (Apple), představila techniku Wally. Ta zajišťuje soukromí při vyhledávání obrázků nebo informací, aniž by rostly náklady na šířku pásma či výpočetní výkon. Metoda funguje tak, že spolu s reálným dotazem se posílají i falešné, přičemž množství šumu se s rostoucím počtem uživatelů výrazně snižuje.

Syntetická data s ochranou soukromí

Výzkumník Sivakanth Gopi (Microsoft Research) představil techniku Private Evolution (PE), která umožňuje generovat syntetická data – ať už obrázky, nebo texty – podobná reálným uživatelským datům, aniž by docházelo k úniku soukromých informací. Metoda využívá API foundation modelů a dokáže dosáhnout výsledků srovnatelných či lepších než přístupy založené na přímém trénování modelů.

Seznam studií

Kromě vybraných přednášek Apple zveřejnil i seznam publikovaných studií, mezi nimiž figurují práce výzkumníků ze společností Apple, Microsoft, Google, MIT, Boston University, Carnegie Mellon či UC Berkeley.