@Generablesta SwiftDataan: laitteessa oleva tarjouslaadun putki

Rajoite ei ollut "tee malli kirjoittaa tarjous"

Yksi kehote voi tuottaa lauseen. Se ei voi määrittää, onko järjestelmämalli valmis, pitää käyttöliittymän reagoivana, erottaa luotua riviä historiallisesta lainauksesta, estää lähes kaksoiskappaletta pääsemästä kirjastoon tai jättää tuotetta hyödylliseksi, kun päättely epäonnistuu. Nämä ympäröivät päätökset ovat ominaisia.

RiseHushilla ei ole päättelytaustaa. Tuetuilla Apple Intelligence -laitteilla sovellus lähettää rajoitetun kehotteen Applen järjestelmän kielimalliin ja tallentaa hyväksytyn tuloksen paikalliseen SwiftDataan. Tuotekohtainen-tiedonhallintasivu selittää, mitä henkilö näkee; Tämä artikkeli dokumentoi toteutuspolun ja sen rajat. Applen oma käytettävyyssovellusliittymä ratkaisee, voidaanko mallia käyttää nyt.

"Toistettava" tarkoittaa tässä, että toinen suunnittelija voi toistaa valmiusmatriisin, hylkäyslaitteet, aikakatkaisureitit ja pysyvyystarkistukset. Se ei tarkoita, että epädeterministinen kielimalli palauttaa saman proosabitin bitille. Tällä sivulla raportoidaan tarkastettu lähdearkkitehtuuri, ei tuoreet fyysisten laitteiden laatumittaukset. testiskriptistä ei päätetä vertailutulosta.

• Päätelmä:Applen järjestelmäkielimalli laitteessa.
• Lähtösopimus:Ohjattu Swift-tyyppi, sitten deterministinen validointi.
• Tallennus:Paikalliset SwiftData-rivit, jotka on merkitty luoduiksi.
• Verkkopolku:Ei RiseHush-sukupolven palvelinta tai kolmannen osapuolen mallia.

[1][2]

Kehotteesta kirjastoon: tuotantopolku

Tämä on RiseHushin laitteessa olevan tarjousgeneraattorin arkkitehtuuri, joka on tarkastettu nykyisessä sovelluslähteessä. Se dokumentoi portit, vikareitit ja tarkastukset, jotka kehittäjä voi toistaa; se ei ole malliesimerkki tai väite, että jokainen luonnos on hyvä.

Tilaus on tahallinen. Halvat, selitettävät tarkastukset suoritetaan ennen enemmän päätelmiä; kirjoitusta ei tapahdu ennen kuin jokainen tarvittava portti on hyväksynyt ehdokkaan. Suoratoistettu vastaus on väliaikainen käyttöliittymäteksti, ei tallennettu lainaus.

1. 01

   Todista valmius

   Palvelu tarkistaa järjestelmämallin saatavuuden ja pyydetyn maa-asetuksen ennen istunnon luomista. Laitteen kelpoisuus, Apple Intelligence -tila, malli-omaisuuden valmius ja kielituki ovat erillisiä tuloksia.

2. 02

   Rajoita luonnosta

   @Generable Swift -tyyppi pyytää yhtä alkuperäistä lausetta, yleensä 10–16 sanaa ja ei koskaan enempää kuin 18, ilman attribuutiota, merkintöjä, hashtageja, hymiöitä tai rivityslainausmerkkejä.

3. 03

   Striimaa päänäyttelijä

   Uusi LanguageModelSession esilämmitetään pyyntöä varten. Osittain jäsennellyt tilannevedokset voivat päivittää käyttöliittymän, kun Foundation Models -silmukka pysyy päätoimijan ulkopuolella.

4. 04

   Hylkää ilmeiset epäonnistumiset

   Ennen mallipohjaista arviointia deterministinen portti tarkistaa lause- ja sanarajoitukset, kielisopimuksen, kielletyt katkelmat, rivitysvälimerkit ja monikieliset klisemallit.

5. 05

   Testaa uutuutta ja laatua

   Kun vertailu upotukset ovat saatavilla, selviytyneet kohtaavat semanttisen lähes kaksoiskappaleen tarkistuksen, sitten erillisen ohjatun tuomarin ja erottuvuuden pisteet. Suoratoistettu luonnos, joka ylittää vaaditun kynnyksen, hylätään sen sijaan, että sitä jatkettaisiin hiljaa.

6. 06

   Jatka selviytyjää

   Metadata lasketaan päätoimijan ulkopuolella. SwiftData-lisäys palaa päätoimijalle, merkitsee rivin luoduksi eikä julkiseksi verkkotunnukseksi ja palauttaa ohimenevät lisäykset, jos tallennus epäonnistuu.

7. 07

   Käytä uudelleen paikallista tilaa

   Sovellus ja järjestelmäpinnat kuluttavat tallennetun tarjouksen. Widgetit lukevat pysyviä tietoja; ne eivät herätä kielimallia laajennuksen aikajanalla.

[2][3][4][5]

Ohjattu ulostulo kaventaa muotoa; koodi omistaa edelleen politiikan

Luonnos on Swift-tyyppinen ja merkitty@Generable. Sen opas pyytää yhtä alkuperäistä lausetta, normaalisti 10–16 sanaa ja kovaa kehotetta enintään 18, ja kieltää attribuutio, lainausmerkkien rivitys, hashtagit, emojit, merkinnät ja rivinvaihdot. Tuotantovaihtoehdot käyttävät lämpötilaa 0,7 ja 40 tokenin kattoa: tarpeeksi tilaa strukturoidulle kääreelle ja lyhyelle lauseelle ilman kutsuvaa kappalepituutta.

Tämä ei tee validoinnista valinnaista. Apple kuvailee ohjattua generointia tapana tuottaa strukturoitua Swift-dataa, ei tae siitä, että sisältö täyttää kaikki tuotesäännöt. Siksi RiseHush käsittelee mallin kirjoitettua arvoa epäluotettavana luonnoksena. Alla oleva lyhennetty luonnos säilyttää tuotannon järjestyksen ja kynnysarvot, mutta jättää pois sovelluskohtaiset kehotteet ja pysyvyystiedot.

@Generable
private struct GeneratedQuoteDraft {
    @Guide(description: "One original sentence; 10–16 words; no attribution")
    var text: String
}

guard availability(locale: locale) == .available else {
    throw GenerationError.unavailable
}

let stream = session.streamResponse(
    to: prompt,
    generating: GeneratedQuoteDraft.self,
    options: generationOptions
)

for try await snapshot in stream {
    yield(snapshot.content.text)          // interface update
}

guard deterministicGate.passes(text, locale: locale),
      await noveltyGate.isNearDuplicate(text) == false,
      await judge.score(text).overall >= 6,
      distinctiveness.score(text).overall >= 5
else {
    throw GenerationError.noCandidate
}

return try persistAsGeneratedQuote(text)

[4][5]

Miksi toinen passi ei vieläkään riittänyt

Ensimmäinen hylkäyskerros on deterministinen: tyhjä tuloste, kielletty kehotejäännös, rivityslainauslauseet, sana- ja lauserajoitukset, kielen erimielisyydet ja monikieliset kliseet. Paikallinen Core ML -makusuodatin voi lisätä opitun signaalin englanniksi, saksaksi, espanjaksi, ranskaksi, italiaksi ja portugaliksi; se ohitetaan tarkoituksella sen sijaan, että sitä käytetään väärin kalibroitujen alueiden ulkopuolella.

Seuraavaksi, kun vertailuupotukset ovat saatavilla, semanttinen uutuusportti vertaa ehdokasta rajoitettuun paikalliseen luetteloon ja hylkää lähes kaksoiskappaleet kosinin samankaltaisuuden kynnysarvolla 0,90. Jos luettelo on tyhjä tai upotusta ei voida tuottaa, tämä kerros menee läpi sen sijaan, että väittäisi uutuuden. Tuore Foundation Models -istunto antaa sitten yleistä laatua, omaperäisyyttä ja lämpöä. Tuo tuomari on erillinen istunto, jossa käytetään samaa järjestelmämallia – ei itsenäinen malli eikä ihmisen tekemä tarkastus. Jos se ei ole käytettävissä, kieltäytyy tai ei pysty tuottamaan strukturoitua tulosta, deterministinen pistemäärä tarjoaa rajoitetun varavaihtoehdon.

Lopuksi erottuvuuspisteet palkitsevat konkreettisia kuvia, toimintaa, emotionaalista spesifisyyttä ja tahdonvoimaa samalla kun rankaisevat kaavoja ja viimeaikaisia negatiivisia ankkureita. Hyväksyminen edellyttää tällä hetkellä vähintään 6 pistettä ja erottelukykyä vähintään 5. Nämä ovat tuotteen kynnysarvoja, eivät todisteita maailmanlaajuisesta omaperäisyydestä tai turvallisuudesta.

[7]

Pidä malli käännettynä pois päänäyttelijästä

Julkinen palvelu palauttaa SwiftData-malliobjekteja, joten sen sisääntulopisteet pysyvät päätoimijan sidoksissa. Kallis Foundation Modelsin vastaussilmukka ei. Jokainen pyyntö omistaa uudenLanguageModelSession; streaming ja metadatan laskenta karkaa päätoimijalta pienillä eksplisiittisillä hyppyillä näyttelijäkohtaisten kehotteiden ja pysyvyyden saavuttamiseksi.

Suoratoisto tuottaa osittaisia jäsenneltyjä tilannekuvia käyttöliittymästä, minkä jälkeen lopullinen teksti välitetään samojen porttien, uutuus-, arviointi- ja erottuvuuspalkkien läpi kuin poolipolku. Valmis stream ylittää näyttelijät pysyvän tunnisteen avulla sen sijaan, että siirrettäisiin ei-lähetettävää SwiftData-mallia. Soittaja ratkaisee tämän tunnisteen omalla toimijallaan.

Vain hyväksytty teksti lisätään. Tietue on luotu nimellä RiseHush, merkitty-lähde = .generatedjaisPublicDomain = false, merkitty sen maa-asetuksilla ja rikastettu paikallisesti lasketuilla metatiedoilla. Jos tallennus epäonnistuu, ohimenevät lisäykset poistetaan ennen kuin virhe palautuu.

[5][10]

Maadoita concierge kolmella vain luku -työkalulla

Ask RiseHush ei saa keksiä henkilön kirjastotilaa. Applen työkalukutsusovellusliittymä sallii istuntopyynnön kaventaa sovellustoimintoja ja sisällyttää niiden palautetut tiedot. Sovellus paljastaa kolme rajoitettua, vain luku -työkalua; mikään ei saavuta RiseHush-palvelinta.

Työkalun argumentit ja tulosteen koot ovat rajoitettuja. Tallennetun lainauksen haku palauttaa enintään kahdeksan tulosta, luettelohaku enintään viisi, ja työkalun kokonaistulos on rajattu. Tallennetut lainaukset -työkalu voi palauttaa viimeisimmät vastaavat kohteet, mutta se ei hyväksy kalenterialuetta – joten tuotteen ei pitäisi luvata mallin olevan vastaus "mitä tallensin viime viikolla?"

• Luettelon lainaushaku

  Hakee tarjousluettelosta mielialan, luokan tai teeman mukaan. Se ei vaadi mallia keksimään lähdettä.

• Tallennettu lainaushaku

  Etsii henkilön omia tallentamia ja suosikkilainauksia paikallisesta tallennustilasta.

• Viivan tila

  Lukee paikallisen inspiraatioputken, jotta Ask RiseHush voi vastata rajoitettuun henkilökohtaiseen kysymykseen.

[6]

Epäonnistunut käyttäytyminen on osa arkkitehtuuria

Saatavuus ei ole Boolen arvo. Yhteensopivassa laitteessa voi silti olla Apple Intelligence pois käytöstä, mallin resurssit valmistelevat tai kieli, jota järjestelmämalli ei tue. Suorituksenaikainen luonti voi myös kieltäytyä, osua suojakaiteeseen, ylittää kontekstin, olla kuristettu, kohdata samanaikainen pyyntö, epäonnistua strukturoidussa jäsennyksessä tai aikakatkaisu.

RiseHush kartoittaa nämä tapaukset rajallisen tuotteen käyttäytymiseen. Etualan sukupolven budjetti on 45 sekuntia, Siri 20 sekuntia ja taustapoolin sukupolvi 120 sekuntia. Kuroitu kirjasto on edelleen rehellinen varaosa; sovellus ei koskaan tallenna paikkamerkkiproosaa ikään kuin malli olisi onnistunut.

[2][3][7]

Toistettavuusprotokolla ilman keksittyjä tuloksia

Alla oleva protokolla erottaa lähteen tarkastuksen reaaliaikaisesta laitteesta. Tallenna kunkin ajon laitteisto, käyttöjärjestelmän koontiversio, maa-asetus, Apple Intelligence -tila, mallin valmius, pikakiinnitys, kulunut aika, päätehaara, hylkäyssyy ja pysyvyystulos. Applen Foundation Models Instruments -instrumentit voivat paljastaa kehotteen, työkalun, tunnuksen ja latenssikäyttäytymisen todellisen istunnon aikana.

Koneluettava versio on saatavanaFoundation Models -evaluointiprotokollana (JSON). Se sisältää matriisin ja kenttäsopimuksen, ei valmistettuja mittauksia. Kun nykyinen fyysisen laitteen ajo hyväksytään, liitä sen anonymisoidut rivit ja julkaise hyväksymis-, aikakatkaisu- ja latenssiarvot tarkan laitteen ja käyttöjärjestelmän kanssa.

1. Käytä yhteensopivia laitteita tuetun käyttöjärjestelmän kanssa. Testaa Apple Intelligencen käytössä ja valmiina, pois käytöstä ja edelleen lataamista.
2. Toista tuetun maa-asetuksen ja ei-tuetun kielen kanssa; varmista, että sovellus erottaa mallin tuen yleisestä laitekelpoisuudesta.
3. Kun malliresurssit ovat valmiit, toista lentokonetilassa ja varmista, että RiseHush-sukupolven päätepistettä ei tarvita.
4. Tarkkaile osittaista tekstiä ollessasi vuorovaikutuksessa käyttöliittymän kanssa; varmista, että vieritys ja säätimet reagoivat mallin käännöksen aikana.
5. Syötelaitteet, jotka ovat tyhjiä, monilauseisia, liian pitkiä, lainausmerkeissä, väärällä kielellä, kliseisiä tai lähes kaksoiskappaleita; yhdestäkään ei pitäisi tulla tallennettuja luotuja rivejä.
6. Trigger-tuomarin hylkääminen ja rajallinen aikakatkaisu; varmista, että hylättyä luonnosta ei ole säilytetty ja kuratoitu kokemus on edelleen käytettävissä.
7. Pakota paikallinen tallennusvirhe testikaupassa; varmista, että lisätyt mallit on rullattu takaisin.
8. Harjoittele Siriä sen lyhyemmällä aikabudjetilla ja varmista, että widgetit lukevat vain säilyneet tiedot sen sijaan, että ne aloittaisivat laajennuksen luomisen.

[8]

Mitä tämä arkkitehtuuri ei todista

Laadukas putkisto voi tehdä vian näkyväksi ja vähentää huonoa pysyvyyttä. Se ei voi muuttaa pientä laitteessa olevaa kielimallia historialliseksi lähteeksi, todistaa, ettei lausetta ole koskaan kirjoitettu missään, tai taata makua. Luotuja rivejä ei siksi koskaan lueta historiallisille tekijöille, eivätkä ne koskaan pääse julkiseen luetteloon.

Käännös ansaitsee erillisen varoituksen. Kieli-asetuksille, joita Foundation Models ei tue suoraan, valinnainen polku sulkee kokonaan englanninkielisen luonnoksen ja käyttää sitten Applen laitteessa olevaa käännöskehystä, jossa pari on saatavilla. Käännetyssä tuloksessa tarkistetaan, ettei vastaus ole tyhjä, ja se säilyy uusien metatietojen kanssa, mutta se ei tällä hetkellä toista täydellistä kohdekielen porttia, uutuutta ja arviointisekvenssiä käännöksen jälkeen. Tämä polku on varoitus, ei todiste samanlaisesta suoran sukupolven laadusta.

Malli- ja käyttöjärjestelmäpäivitykset voivat muuttaa saatavuutta, viivettä, kieltäytymiskäyttäytymistä ja tulosten jakelua. Apple suosittelee tarkistamaan kehotteet ja arvioinnit, kun Foundation Models muuttuu. RiseHushin testimatriisi on siksi suoritettava uudelleen materiaalialustapäivitysten jälkeen sen sijaan, että tätä sivua pitäisi käsitellä pysyvänä vertailutodisteena.

• Järjestelmämallia ei käytetä historiallisten lainausfaktien tai tekijän merkintöjen lähteenä.
• Strukturoitu lähtö ja toinen mallipassi vähentävät vikatiloja; ne eivät todista, että linja on syvällinen, omaperäinen globaalissa mielessä tai sopii kaikille.
• Semanttinen uutuustaso kulkee läpi, kun sen rajattu luettelo on tyhjä tai vertailu upotukset eivät ole käytettävissä; se vähentää tunnettuja lähes kaksoiskappaleita, mutta ei takaa maailmanlaajuista alkuperäisyyttä.
• Offline-tuotanto riippuu yhteensopivasta laitteistosta, käytössä olevasta Apple Intelligencesta, tuetuista kielikäyttäytymisestä ja valmiista malliresursseista.
• Valinnainen opittu Core ML -makusuodatin on kalibroitu englanniksi, saksaksi, espanjaksi, ranskaksi, italiaksi ja portugaliksi; muut alueet saavat edelleen niitä tukevat deterministiset ja mallipohjaiset tasot.
• Paikallisesti käännetty varaversio ei vastaa suoraa kohdekielen luomista: nykyinen käännetty tulos ei toista jokaista laatutasoa käännöksen jälkeen.
• Käyttöjärjestelmän ja mallin päivitykset voivat muuttaa latenssia ja tulosten jakautumista, joten laitematriisi on suoritettava uudelleen materiaalien alustan muutosten jälkeen.
• Tällä sivulla kuvataan nykyinen arkkitehtuuri, ei lupaus, että jokaisella alustalla suoritetaan Foundation Models -malleja. Widgetit kuluttavat tarkoituksella pysyviä tuloksia.

[3][9][11]