Apple testuje technologii pro výkonnější AI přímo na iPhonu. Mohla by změnit budoucnost Siri AI

• Apple údajně zkoumá technologii pro provoz větších AI modelů přímo na iPhonu
• PrismML dokázal zprovoznit model s 27 miliardami parametrů kompletně na iPhonu 17 Pro
• Více AI funkcí by díky tomu mohlo fungovat lokálně bez využití Private Cloud Compute

Apple podle nové zprávy jedná se startupem PrismML o možnostech využití jeho technologie pro provoz výrazně větších modelů umělé inteligence přímo na iPhonech. Pokud by se spolupráce skutečně potvrdila, mohla by výrazně posunout možnosti Apple Intelligence. Větší jazykové modely by totiž nemusely být zpracovávány v cloudu, ale běžely by přímo na zařízení uživatele.

PrismML dokázal spustit model s 27 miliardami parametrů na iPhonu

Podle dostupných informací se startupu podařilo upravit open-source jazykový model Qwen 3.6 od společnosti Alibaba tak, aby běžel kompletně na iPhonu 17 Pro. Model disponuje 27 miliardami parametrů, což je více než současný pokročilý on-device model Applu AFM 3 Core Advanced, který obsahuje 20 miliard parametrů. Právě AFM 3 Core Advanced pohání v iOS 27 nové funkce Apple Intelligence, například přirozenější hlas Siri AI nebo výrazně vylepšené systémové diktování na modelech iPhone 17 Pro a iPhone Air.

Rozdíl není jen v počtu parametrů

Samotný počet parametrů ale není jedinou zajímavostí. Apple u modelu AFM 3 Core Advanced využívá takzvanou řídkou (sparse) architekturu. To znamená, že model sice obsahuje 20 miliard parametrů, ale při každém požadavku je současně aktivní pouze přibližně 1 až 4 miliardy parametrů. PrismML naopak údajně dokázal spustit model, ve kterém je všech 27 miliard parametrů aktivních současně. To může znamenat vyšší kvalitu odpovědí i lepší schopnost modelu řešit složitější úlohy přímo na zařízení.

Méně cloudu, více soukromí

Pokud by Apple podobnou technologii převzal, mohl by větší část funkcí Apple Intelligence přesunout z infrastruktury Private Cloud Compute přímo do iPhonu. To by přineslo několik výhod:

• vyšší úroveň ochrany soukromí, protože data by neopouštěla zařízení,
• nižší provozní náklady na cloudovou infrastrukturu,
• rychlejší odezvu AI funkcí,
• menší závislost na internetovém připojení.

Přesto zatím není jasné, zda Apple technologii PrismML skutečně využije. Podle dostupných informací proběhla pouze jednání a žádná spolupráce ani akvizice zatím nebyla oznámena. Je ovšem pravděpodobné, že Apple bude mít o výše uvedenou technologii zájem, jelikož splňuje jeho požadavky na práci s AI modely, které běží na koncovém zařízení. Tato forma totiž zvyšuje soukromí uživatele a zároveň snižuje náklady na provoz datových center.