Od @Generable po SwiftData: kanál kvality cenových ponúk na zariadení

Obmedzenie nebolo „prinútiť modelku, aby napísala cenovú ponuku“

Jedna výzva môže vytvoriť vetu. Nedokáže určiť, či je systémový model pripravený, zachovať odozvu rozhrania, rozlíšiť vygenerovaný riadok od historickej cenovej ponuky, zabrániť vstupu takmer duplikátu do knižnice alebo ponechať produkt užitočný, keď zlyhá odvodenie. Charakteristickým znakom sú tieto okolité rozhodnutia.

RiseHush nemá žiadny inferenčný backend. Na podporovaných zariadeniach Apple Intelligence aplikácia odošle ohraničenú výzvu do jazykového modelu systému Apple na zariadení a uloží akceptovaný výsledok do miestnych údajov SwiftData. Stránkas informáciami o produkte vysvetľuje, čo človek vidí; tento článok dokumentuje cestu implementácie a jej limity. Vlastné API dostupnosti spoločnosti Apple zostáva autoritou, ktorá určuje, či sa model môže spustiť teraz.

„Reprodukovateľné“ tu znamená, že iný inžinier môže zopakovať maticu pripravenosti, odmietnuté prípravky, cesty časového limitu a kontroly perzistencie. Neznamená to, že nedeterministický jazykový model vráti rovnakú prózu bit za bit. Táto stránka uvádza skontrolovanú zdrojovú architektúru, nie čerstvé metriky kvality fyzického zariadenia; z testovacieho skriptu nie je odvodený žiadny výsledok benchmarku.

• Inferencia:Jazykový model systému Apple na zariadení.
• Výstupná zmluva:Riadený typ Swift, potom deterministická validácia.
• Úložisko:Miestne riadky SwiftData označené ako vygenerované.
• Sieťová cesta:Žiadny server generácie RiseHush alebo model tretej strany.

[1][2]

Od výzvy ku knižnici: produkčná cesta

Toto je architektúra generátora cenových ponúk RiseHush na zariadení, ako je skontrolovaná v aktuálnom zdroji aplikácie. Dokumentuje brány, cesty zlyhania a kontroly, ktoré môže vývojár reprodukovať; nie je to modelový benchmark alebo tvrdenie, že každý návrh je dobrý.

Objednávka je zámerná. Lacné, vysvetliteľné kontroly prebiehajú pred ďalším odvodením; nedochádza k žiadnemu zápisu, kým každá požadovaná brána neprijme kandidáta. Streamovaná odpoveď je dočasný text rozhrania, nie uložená cenová ponuka.

1. 01

   Dokážte pripravenosť

   Služba pred vytvorením relácie skontroluje dostupnosť modelu systému a požadované miestne nastavenie. Spôsobilosť zariadenia, stav Apple Intelligence, pripravenosť modelu a jazyková podpora sú samostatné výsledky.

2. 02

   Obmedzte návrh

   Typ @Generable Swift vyžaduje jednu pôvodnú vetu, zvyčajne 10 – 16 slov a nikdy nie viac ako 18, bez uvedenia zdroja, označenia, hashtagov, emoji alebo úvodzoviek.

3. 03

   Streamujte hlavného herca

   Pre požiadavku je predhriata čerstvá LanguageModelSession. Čiastočné štruktúrované snímky môžu aktualizovať rozhranie, zatiaľ čo slučka Foundation Models zostáva mimo hlavného aktéra.

4. 04

   Odmietajte zjavné zlyhania

   Pred akýmkoľvek hodnotením založeným na modeli deterministická brána kontroluje limity viet a slov, jazykovú zhodu, zakázané fragmenty, zalamovaciu interpunkciu a viacjazyčné klišé vzory.

5. 05

   Testujte novinku a kvalitu

   Keď sú k dispozícii porovnávacie vloženia, preživší čelia sémantickej kontrole takmer duplikátov, potom samostatnému riadenému sudcovi a skóre rozlišovacej spôsobilosti. Streamovaný koncept, ktorý nedosahuje požadovaný prah, sa radšej zahodí, než aby sa v tichosti zachoval.

6. 06

   Trvajte na tom, kto prežil

   Metadáta sa počítajú mimo hlavného aktéra. Vkladanie údajov SwiftData sa vráti k hlavnému aktérovi, označí riadok ako vygenerovaný a nie je verejná doména a vráti späť prechodné vložky, ak ukladanie zlyhá.

7. 07

   Opätovne použite miestny stav

   Plochy aplikácie a systému využívajú uloženú cenovú ponuku. Widgety čítajú trvalé údaje; neprebudia jazykový model v rámci časovej osi rozšírenia.

[2][3][4][5]

Vedený výstup zužuje tvar; kód stále vlastní politiku

Návrh je typu Swift s označením@Generable. Jeho sprievodca požaduje jednu pôvodnú vetu, zvyčajne 10 až 16 slov s maximálnou tvrdosťou 18, a zakazuje pripisovanie, zalamovanie úvodzoviek, hashtagov, emotikonov, markdown a zalomenie riadkov. Výrobné možnosti využívajú teplotu 0,7 a strop 40 tokenov: dostatok miesta pre štruktúrovaný obal a krátku vetu bez vyzývavého výstupu v dĺžke odstavca.

Toto nerobí overenie voliteľným. Spoločnosť Apple popisuje riadené generovanie ako spôsob vytvárania štruktúrovaných údajov Swift, ktorý nie je zárukou, že obsah spĺňa všetky pravidlá produktu. RiseHush preto považuje zadanú hodnotu modelu za nedôveryhodný koncept. Nižšie uvedený skrátený náčrt zachováva výrobné poradie a prahové hodnoty, pričom vynecháva podrobnosti o výzvach a pretrvávaní špecifických pre aplikáciu.

@Generable
private struct GeneratedQuoteDraft {
    @Guide(description: "One original sentence; 10–16 words; no attribution")
    var text: String
}

guard availability(locale: locale) == .available else {
    throw GenerationError.unavailable
}

let stream = session.streamResponse(
    to: prompt,
    generating: GeneratedQuoteDraft.self,
    options: generationOptions
)

for try await snapshot in stream {
    yield(snapshot.content.text)          // interface update
}

guard deterministicGate.passes(text, locale: locale),
      await noveltyGate.isNearDuplicate(text) == false,
      await judge.score(text).overall >= 6,
      distinctiveness.score(text).overall >= 5
else {
    throw GenerationError.noCandidate
}

return try persistAsGeneratedQuote(text)

[4][5]

Prečo druhý prechod stále nestačil

Prvá vrstva odmietnutia je deterministická: prázdny výstup, zakázané zvyšky výziev, zalamovanie úvodzoviek, limity slov a viet, jazykové nezhody a viacjazyčné klišé. Miestny chuťový filter Core ML môže pridať naučený signál pre angličtinu, nemčinu, španielčinu, francúzštinu, taliančinu a portugalčinu; je zámerne vynechaný a nie nesprávne aplikovaný mimo týchto kalibrovaných miest.

Potom, keď sú dostupné porovnávacie vloženia, sémantická brána novosti porovnáva kandidáta s ohraničeným lokálnym katalógom a odmietne takmer duplikáty pri prahovej hodnote kosínusovej podobnosti 0,90. Ak je katalóg prázdny alebo nie je možné vyrobiť vložku, bola preukázaná, že vrstva prejde skôr, ako by si nárokovala novosť. Čerstvá relácia Foundation Models potom hodnotí celkovú kvalitu, originalitu a teplo. Tento sudca je samostatná relácia používajúca rovnaký model systému – nie nezávislý model a nie ľudská kontrola. Ak nie je k dispozícii, odmieta alebo nemôže produkovať štruktúrovaný výstup, deterministické skóre poskytuje obmedzenú rezervu.

Nakoniec, skóre rozlišovacej spôsobilosti odmeňuje konkrétnu predstavivosť, akciu, emocionálnu špecifickosť a činnosť a zároveň penalizuje vzorce a nedávne negatívne kotvy. Akceptácia si v súčasnosti vyžaduje hodnotenie porotcu aspoň 6 a rozlišovaciu spôsobilosť aspoň 5. Toto sú prahové hodnoty produktu, nie dôkaz globálnej originality alebo bezpečnosti.

[7]

Udržujte model odvrátený od hlavného herca

Verejná služba vracia objekty modelu SwiftData, takže jej vstupné body zostávajú viazané na hlavného aktéra. Drahá slučka odozvy Foundation Models nie. Každá požiadavka vlastní novúLanguageModelSession; streamovanie a výpočet metadát utekajú od hlavného aktéra s malými explicitnými skokmi pre rýchle signály a vytrvalosť viazané na aktéra.

Streamovanie poskytuje čiastočné štruktúrované snímky pre rozhranie a potom odovzdáva konečný text cez rovnakú bránu, novinku, sudcu a rozlišovaciu spôsobilosť ako cesta bazéna. Dokončený tok pretína aktérov podľa trvalého identifikátora namiesto toho, aby presúval model SwiftData, ktorý nemožno odoslať. Volajúci rieši tento identifikátor na svojom vlastnom aktérovi.

Vloží sa iba akceptovaný text. Záznam je napísaný ako RiseHush, označenýsource = .generatedaisPublicDomain = false, označený jeho lokalitou a obohatený o lokálne vypočítané metadáta. Ak ukladanie zlyhá, prechodné vložky sa vymažú skôr, ako sa chyba vráti.

[5][10]

Uzemnite službu concierge tromi nástrojmi iba na čítanie

Ask RiseHush nemá povolené vymýšľať stav knižnice osoby. Rozhranie API na volanie nástrojov od spoločnosti Apple umožňuje žiadosti o reláciu zúžiť funkcie aplikácie a začleniť ich vrátené údaje. Aplikácia odhaľuje tri ohraničené nástroje iba na čítanie; žiadny nedosiahne server RiseHush.

Argumenty nástroja a výstupné veľkosti sú obmedzené. Vyhľadávanie uloženej ponuky vráti najviac osem výsledkov, vyhľadávanie v katalógu najviac päť a celkový výstup nástroja je obmedzený. Nástroj uložených úvodzoviek môže vrátiť nedávne zodpovedajúce položky, ale neakceptuje rozsah kalendára – takže produkt by nemal sľubovať, že model dokáže odpovedať „čo som uložil minulý týždeň?“

• Vyhľadávanie cenovej ponuky v katalógu

  Vyhľadáva v zbalenom katalógu cenových ponúk podľa nálady, kategórie alebo témy. Nežiada od modelu, aby si vymyslel zdroj.

• Uložené vyhľadávanie cenovej ponuky

  Vyhľadá vlastné uložené a obľúbené citáty danej osoby v miestnom úložisku.

• Stav pruhu

  Číta miestnu sériu inšpirácie, takže Ask RiseHush môže odpovedať na obmedzenú osobnú otázku.

[6]

Poruchové správanie je súčasťou architektúry

Dostupnosť nie je boolovská. Na kompatibilnom zariadení môže byť stále zakázaná funkcia Apple Intelligence, príprava prostriedkov modelu alebo jazyk, ktorý model systému nepodporuje. Generovanie runtime môže tiež odmietnuť, naraziť na zábradlie, prekročiť kontext, byť obmedzené, stretnúť sa so súbežnou požiadavkou, zlyhať pri štruktúrovanej analýze alebo vypršať časový limit.

RiseHush mapuje tieto prípady na konečné správanie produktu. Generovanie popredia má rozpočet 45 sekúnd, Siri 20 sekúnd a generovanie fondu na pozadí 120 sekúnd. Spravovaná knižnica zostáva čestnou rezervou; aplikácia nikdy neukladá zástupnú prózu, ako keby model uspel.

[2][3][7]

Protokol reprodukovateľnosti bez vynájdených výsledkov

Nižšie uvedený protokol oddeľuje kontrolu zdroja od dôkazu živého zariadenia. Zaznamenajte hardvér, zostavenie operačného systému, miestne nastavenie, stav Apple Intelligence, pripravenosť modelu, rýchle nastavenie, uplynutý čas, koncovú vetvu, dôvod odmietnutia a výsledok pretrvávania pre každý chod. Apple Foundation Models Instruments dokáže odhaliť správanie promptov, nástrojov, tokenov a latencie počas reálnej relácie.

K dispozícii je strojovo čitateľná verzia ako protokol hodnoteniaFoundation Models (JSON). Obsahuje maticu a zmluvu poľa, nie vymyslené merania. Po schválení aktuálneho spustenia na fyzickom zariadení pripojte jeho anonymizované riadky a zverejnite súhrnné hodnoty prijatia, časového limitu a latencie s presným zariadením a operačným systémom.

1. Používajte kompatibilný hardvér s podporovaným operačným systémom. Testovanie Apple Intelligence zapnuté a pripravené, vypnuté a stále sťahovanie.
2. Opakujte s podporovaným a nepodporovaným miestnym nastavením; overte, či aplikácia rozlišuje podporu modelu od všeobecnej spôsobilosti zariadenia.
3. Keď sú prostriedky modelu pripravené, zopakujte to v režime Lietadlo a potvrďte, že nie je potrebný žiadny koncový bod generovania RiseHush.
4. Počas interakcie s rozhraním sledujte čiastočný text; potvrďte, že posúvanie a ovládacie prvky zostávajú počas otáčania modelu citlivé.
5. Podávajte zariadenia, ktoré sú prázdne, s viacerými vetami, príliš dlhé, zabalené v úvodzovkách, v nesprávnom jazyku, klišéovité alebo takmer duplikované; žiadne by sa nemali stať uloženými vygenerovanými riadkami.
6. Spustiť odmietnutie sudcu a konečný časový limit; potvrdiť, že žiadny odmietnutý koncept nie je zachovaný a správna skúsenosť zostáva k dispozícii.
7. Vynútiť zlyhanie lokálneho uloženia v testovacom obchode; skontrolujte, či sú vložené modely vrátené späť.
8. Cvičte Siri s jej kratším časovým rozpočtom a overte si, že miniaplikácie čítajú iba trvalé údaje, a nie spustenie generovania v rozšírení.

[8]

Čo táto architektúra nedokazuje

Kvalitné potrubie môže zviditeľniť poruchu a znížiť zlú výdrž. Nedokáže premeniť malý jazykový model na zariadení na historický zdroj, dokázať, že veta nikdy nebola nikde napísaná, ani zaručiť vkus. Vygenerované riadky sa preto nikdy nepripisujú historickým autorom a nikdy nevstupujú do katalógu verejnej domény.

Preklad si zaslúži samostatné upozornenie. Pre miestne nastavenia, ktoré nie sú podporované priamo Foundation Models, voliteľná cesta plne zahŕňa anglický koncept a potom používa prekladový rámec Apple na zariadení, ak je tento pár k dispozícii. Preložený výsledok sa skontroluje, či neobsahuje prázdnu odpoveď a zachová sa s novými metaúdajmi, ale v súčasnosti sa v ňom po preklade neopakuje úplná brána cieľového jazyka, novosť a postupnosť posudzovania. Táto cesta je náhradou, nie dôkazom rovnakej kvality priameho generovania.

Aktualizácie modelu a operačného systému môžu zmeniť dostupnosť, latenciu, správanie pri odmietnutí a distribúciu výstupu. Apple odporúča prehodnotiť výzvy a hodnotenie pri zmenách Foundation Models. Testovacia matica RiseHush sa preto musí znova spustiť po aktualizáciách materiálovej platformy, namiesto toho, aby sa táto stránka považovala za trvalý dôkaz benchmarku.

• Systémový model sa nepoužíva ako zdroj historických citačných faktov alebo priraďovania autora.
• Štruktúrovaný výstup a druhý prechod modelu znižujú chybové režimy; nedokazujú, že línia je hlboká, originálna v globálnom zmysle alebo vhodná pre každého.
• Vrstva sémantickej novosti prechádza, keď je jej ohraničený katalóg prázdny alebo nie sú dostupné porovnávacie vloženia; redukuje známe takmer duplikáty, ale neosvedčuje globálnu originalitu.
• Offline generovanie závisí od kompatibilného hardvéru, aktivovanej Apple Intelligence, podporovaného jazykového správania a modelových aktív, ktoré sú už pripravené.
• Voliteľný naučený chuťový filter Core ML je kalibrovaný pre angličtinu, nemčinu, španielčinu, francúzštinu, taliančinu a portugalčinu; ostatné lokality stále dostávajú deterministické vrstvy a vrstvy založené na modeli, ktoré ich podporujú.
• Lokálne preložená záloha nie je ekvivalentom priameho generovania cieľového jazyka: aktuálny preložený výsledok neopakuje každú vrstvu kvality po preklade.
• Aktualizácie OS a modelov môžu zmeniť latenciu a distribúciu výstupu, takže po zmenách materiálovej platformy je potrebné znova spustiť maticu zariadenia.
• Táto stránka popisuje súčasnú architektúru, nie je prísľubom, že na každom povrchu platformy sa budú spúšťať modely Foundation. Widgety zámerne spotrebúvajú trvalé výsledky.

[3][9][11]