Daripada @Generable kepada SwiftData: saluran paip kualiti sebut harga pada peranti

Kekangan bukan "membuat model menulis petikan"

Satu gesaan boleh menghasilkan ayat. Ia tidak dapat menentukan sama ada model sistem sudah sedia, mengekalkan antara muka yang responsif, membezakan baris yang dijana daripada petikan sejarah, menghalang hampir pendua daripada memasuki perpustakaan atau membiarkan produk berguna apabila inferens gagal. Keputusan sekeliling adalah ciri.

RiseHush tidak mempunyai bahagian belakang inferens. Pada peranti Apple Intelligence yang disokong, apl menghantar gesaan terhad kepada model bahasa sistem pada peranti Apple dan menyimpan hasil yang diterima dalam SwiftData tempatan. Halaman perisikan yang berhadapan dengan produk menerangkan perkara yang dilihat oleh seseorang; artikel ini mendokumenkan laluan pelaksanaan dan hadnya. API ketersediaan Apple sendiri kekal sebagai kuasa untuk sama ada model itu boleh dijalankan sekarang.

"Boleh dihasilkan semula" di sini bermakna jurutera lain boleh mengulangi matriks kesediaan, lekapan penolakan, laluan tamat masa dan semakan kegigihan. Ini tidak bermakna model bahasa tidak tentu akan mengembalikan bit prosa yang sama untuk sedikit. Halaman ini melaporkan seni bina sumber yang diperiksa, bukan metrik kualiti peranti fizikal baharu; tiada hasil penanda aras disimpulkan daripada skrip ujian.

• Inferens: Model bahasa sistemApple, pada peranti.
• Kontrak keluaran:Jenis Swift berpandu, kemudian pengesahan deterministik.
• Storan:Baris SwiftData Tempatan ditandakan sebagai dijana.
• Laluan rangkaian:Tiada pelayan generasi RiseHush atau model pihak ketiga.

[1][2]

Daripada gesaan kepada perpustakaan: laluan pengeluaran

Ini ialah seni bina di sebalik penjana sebut harga pada peranti RiseHush seperti yang diperiksa dalam sumber apl semasa. Ia mendokumenkan pintu gerbang, laluan kegagalan, dan memeriksa pembangun boleh menghasilkan semula; ia bukan penanda aras model atau dakwaan bahawa setiap draf adalah baik.

Pesanan itu disengajakan. Pemeriksaan murah dan boleh dijelaskan dijalankan sebelum lebih banyak inferens; tiada penulisan berlaku sehingga setiap pintu yang diperlukan telah menerima calon. Jawapan yang distrim ialah teks antara muka sementara, bukan petikan yang disimpan.

1. 01

   Buktikan kesediaan

   Perkhidmatan menyemak ketersediaan model sistem dan tempat yang diminta sebelum ia membuat sesi. Kelayakan peranti, keadaan Apple Intelligence, kesediaan aset model dan sokongan bahasa adalah hasil yang berasingan.

2. 02

   Mengekang draf

   Jenis @Generable Swift meminta satu ayat asal, biasanya 10–16 patah perkataan dan tidak melebihi 18, tanpa atribusi, markdown, hashtag, emoji atau tanda petikan pembalut.

3. 03

   Strim daripada pelakon utama

   LanguageModelSession baharu dipanaskan terlebih dahulu untuk permintaan tersebut. Syot kilat berstruktur separa boleh mengemas kini antara muka manakala gelung Model Asas kekal di luar pelakon utama.

4. 04

   Tolak kegagalan yang jelas

   Sebelum sebarang penilaian berasaskan model, gerbang penentu menyemak had ayat dan perkataan, persetujuan bahasa, serpihan terlarang, tanda baca pembalut dan corak klise berbilang bahasa.

5. 05

   Uji kebaharuan dan kualiti

   Apabila pembenaman perbandingan tersedia, mangsa yang terselamat akan menghadapi semakan hampir pendua semantik, kemudian hakim berpandu yang berasingan dan skor keistimewaan. Draf strim yang terlepas ambang yang diperlukan akan dibuang dan bukannya diteruskan secara senyap.

6. 06

   Teruskan yang terselamat

   Metadata dikira jauh daripada aktor utama. Sisipan SwiftData kembali kepada pelakon utama, melabelkan baris sebagai yang dijana dan bukan domain awam, dan melancarkan semula sisipan sementara jika penjimatan gagal.

7. 07

   Guna semula negeri tempatan

   Permukaan apl dan sistem menggunakan sebut harga yang disimpan. Widget membaca data berterusan; mereka tidak membangunkan model bahasa dalam garis masa sambungan.

[2][3][4][5]

Output berpandu menyempitkan bentuk; kod masih memiliki dasar

Draf ialah jenis Swift bertanda@Generable. Panduannya meminta satu ayat asal, biasanya 10–16 perkataan dengan gesaan keras maksimum 18, dan melarang atribusi, tanda petikan pembalut, hashteg, emoji, penurunan harga dan pemisah baris. Pilihan pengeluaran menggunakan suhu 0.7 dan siling 40 token: ruang yang cukup untuk pembungkus berstruktur dan ayat pendek, tanpa mengundang output sepanjang perenggan.

Ini tidak menjadikan pengesahan sebagai pilihan. Apple menerangkan penjanaan berpandu sebagai cara untuk menghasilkan data Swift berstruktur, bukan jaminan bahawa kandungan itu memenuhi setiap peraturan produk. Oleh itu, RiseHush menganggap nilai taip model sebagai draf yang tidak dipercayai. Lakaran ringkas di bawah mengekalkan pesanan pengeluaran dan ambang sambil mengetepikan butiran segera dan kegigihan khusus apl.

@Generable
private struct GeneratedQuoteDraft {
    @Guide(description: "One original sentence; 10–16 words; no attribution")
    var text: String
}

guard availability(locale: locale) == .available else {
    throw GenerationError.unavailable
}

let stream = session.streamResponse(
    to: prompt,
    generating: GeneratedQuoteDraft.self,
    options: generationOptions
)

for try await snapshot in stream {
    yield(snapshot.content.text)          // interface update
}

guard deterministicGate.passes(text, locale: locale),
      await noveltyGate.isNearDuplicate(text) == false,
      await judge.score(text).overall >= 6,
      distinctiveness.score(text).overall >= 5
else {
    throw GenerationError.noCandidate
}

return try persistAsGeneratedQuote(text)

[4][5]

Mengapa hantaran kedua masih tidak mencukupi

Lapisan penolakan pertama adalah deterministik: output kosong, sisa segera yang dilarang, petikan pembalut, had perkataan dan ayat, perselisihan bahasa dan lekapan klise berbilang bahasa. Penapis rasa Core ML tempatan boleh menambah isyarat yang dipelajari untuk bahasa Inggeris, Jerman, Sepanyol, Perancis, Itali dan Portugis; ia sengaja dilangkau dan bukannya disalahgunakan di luar tempat yang ditentukur itu.

Seterusnya, apabila pembenaman perbandingan tersedia, gerbang kebaharuan semantik membandingkan calon dengan katalog tempatan bersempadan dan menolak hampir pendua pada ambang kesamaan kosinus 0.90. Jika katalog kosong atau pembenaman tidak dapat dihasilkan, lapisan itu melaluinya daripada mendakwa kebaharuan telah terbukti. Sesi Model Asas yang baharu kemudiannya menjaringkan kualiti keseluruhan, keaslian dan kemesraan. Hakim itu adalah sesi berasingan menggunakan model sistem yang sama—bukan model bebas dan bukan semakan manusia. Jika ia tidak tersedia, enggan, atau tidak dapat menghasilkan output berstruktur, skor deterministik memberikan sandaran terhad.

Akhir sekali, skor keistimewaan memberi ganjaran kepada imejan konkrit, tindakan, kekhususan emosi dan agensi sambil menghukum formula dan sauh negatif terkini. Penerimaan pada masa ini memerlukan skor hakim sekurang-kurangnya 6 dan kekhususan sekurang-kurangnya 5. Ini adalah ambang produk, bukan bukti keaslian atau keselamatan global.

[7]

Jauhkan model daripada pelakon utama

Perkhidmatan awam mengembalikan objek model SwiftData, jadi titik masuknya kekal terikat dengan aktor utama. Gelung tindak balas Model Yayasan yang mahal tidak. Setiap permintaan memilikiLanguageModelSession; penstriman dan pengiraan metadata lari daripada aktor utama, dengan lompatan eksplisit kecil untuk isyarat segera dan ketekunan terikat oleh aktor.

Penstriman menghasilkan syot kilat berstruktur separa untuk antara muka, kemudian menyerahkan teks akhir melalui gerbang, kebaharuan, hakim dan bar keistimewaan yang sama seperti laluan kolam. Strim yang lengkap merentasi pelakon dengan pengecam berterusan dan bukannya mengalihkan model SwiftData yang tidak Boleh Dihantar. Pemanggil menyelesaikan pengecam itu pada pelakonnya sendiri.

Hanya teks yang diterima disisipkan. Rekod itu dikarang sebagai RiseHush, ditandai sumber= .generateddanisPublicDomain = palsu, ditandakan dengan tempatnya dan diperkaya dengan metadata yang dikira secara setempat. Jika penjimatan gagal, sisipan sementara dipadamkan sebelum ralat kembali.

[5][10]

Meratakan pekerja rencam dengan tiga alatan baca sahaja

Ask RiseHush tidak dibenarkan mencipta keadaan perpustakaan seseorang. API pemanggil alat Apple membolehkan sesi meminta fungsi apl yang sempit dan menggabungkan data yang dikembalikan. Apl ini mendedahkan tiga alat terhad, baca sahaja; tiada yang mencapai pelayan RiseHush.

Argumen alat dan saiz output dikekang. Carian petikan disimpan mengembalikan paling banyak lapan hasil carian, carian katalog paling banyak lima dan jumlah output alat dihadkan. Alat petikan yang disimpan boleh memulangkan item padanan terbaharu, tetapi ia tidak menerima julat kalendar—jadi produk itu tidak sepatutnya menjanjikan model itu boleh menjawab "apa yang saya simpan minggu lepas?"

• Carian petikan katalog

  Mencari katalog petikan yang digabungkan mengikut mood, kategori atau tema. Ia tidak meminta model untuk mencipta sumber.

• Carian petikan disimpan

  Mencari petikan yang disimpan dan kegemaran orang itu sendiri dalam storan setempat.

• Status coretan

  Membaca coretan inspirasi tempatan supaya Ask RiseHush boleh menjawab soalan peribadi yang terhad.

[6]

Tingkah laku kegagalan adalah sebahagian daripada seni bina

Ketersediaan bukan Boolean. Peranti yang serasi mungkin masih mempunyai Apple Intelligence dilumpuhkan, penyediaan aset model atau bahasa yang tidak disokong oleh model sistem. Penjanaan masa jalan juga boleh menolak, memukul pagar, melebihi konteks, dikurangkan, menghadapi permintaan serentak, gagal menghurai berstruktur atau tamat masa.

RiseHush memetakan kes tersebut kepada tingkah laku produk terhingga. Penjanaan latar depan mempunyai belanjawan 45 saat, Siri 20 saat, dan penjanaan kolam latar belakang 120 saat. Perpustakaan yang dipilih susun kekal sebagai sandaran yang jujur; apl itu tidak pernah menyimpan prosa pemegang tempat seolah-olah model berjaya.

[2][3][7]

Protokol kebolehulangan, tanpa hasil ciptaan

Protokol di bawah memisahkan pemeriksaan sumber daripada bukti peranti langsung. Rakam perkakasan, binaan OS, tempat, keadaan Perisikan Apple, kesediaan model, lekapan segera, masa berlalu, cawangan terminal, sebab penolakan dan hasil kegigihan untuk setiap larian. Instrumen Model Asas Apple boleh mendedahkan gelagat gesaan, alat, token dan kependaman semasa sesi sebenar.

Versi yang boleh dibaca mesin tersedia sebagai protokol penilaian Model Yayasan(JSON). Ia mengandungi matriks dan kontrak medan, bukan ukuran rekaan. Apabila larian peranti fizikal semasa diluluskan, tambahkan baris tanpa namanya dan terbitkan nilai penerimaan agregat, tamat masa dan kependaman dengan peranti dan OS yang tepat.

1. Gunakan perkakasan yang serasi dengan OS yang disokong. Uji Perisikan Apple didayakan dan sedia, dilumpuhkan dan masih memuat turun.
2. Ulangi dengan tempat yang disokong dan tempat yang tidak disokong; sahkan bahawa apl itu membezakan sokongan model daripada kelayakan peranti umum.
3. Selepas aset model sedia, ulangi dalam Mod Pesawat dan sahkan bahawa tiada titik akhir penjanaan RiseHush diperlukan.
4. Perhatikan teks separa semasa berinteraksi dengan antara muka; sahkan bahawa penatalan dan kawalan kekal responsif semasa putaran model.
5. Lekapan suapan yang kosong, berbilang ayat, terlalu panjang, dibalut dengan petikan, dalam bahasa yang salah, klise atau hampir pendua; tiada satu pun harus menjadi baris yang dijana disimpan.
6. Pencetus penolakan hakim dan tamat masa yang terhad; sahkan bahawa tiada draf yang ditolak berterusan dan pengalaman susun atur kekal tersedia.
7. Paksa kegagalan simpan tempatan dalam stor ujian; sahkan bahawa model yang dimasukkan digulung semula.
8. Latih Siri dengan belanjawan masa yang lebih singkat dan sahkan bahawa widget hanya membaca data berterusan daripada memulakan penjanaan dalam sambungan.

[8]

Apa yang seni bina ini tidak membuktikan

Saluran paip yang berkualiti boleh membuat kegagalan kelihatan dan mengurangkan kegigihan yang buruk. Ia tidak boleh menjadikan model bahasa kecil pada peranti menjadi sumber sejarah, membuktikan bahawa ayat tidak pernah ditulis di mana-mana, atau menjamin rasa. Oleh itu, baris yang dijana tidak sekali-kali dikaitkan dengan pengarang sejarah dan tidak sekali-kali memasuki katalog domain awam.

Terjemahan patut diberi amaran berasingan. Untuk tempat yang tidak disokong secara langsung oleh Model Yayasan, laluan pilihan mengawal sepenuhnya draf Bahasa Inggeris dan kemudian menggunakan rangka kerja Terjemahan pada peranti Apple di mana pasangan itu tersedia. Hasil terjemahan disemak untuk respons yang tidak kosong dan berterusan dengan metadata baharu, tetapi pada masa ini ia tidak mengulangi gerbang bahasa sasaran penuh, kebaharuan dan jujukan penilaian selepas terjemahan. Laluan itu adalah sandaran, bukan bukti kualiti penjanaan langsung yang sama.

Kemas kini model dan OS boleh mengubah ketersediaan, kependaman, tingkah laku penolakan dan pengedaran output. Apple mengesyorkan menyemak semula gesaan dan penilaian apabila Model Asas berubah. Oleh itu, matriks ujian RiseHush mesti disiarkan semula selepas kemas kini platform material dan bukannya menganggap halaman ini sebagai bukti penanda aras kekal.

• Model sistem tidak digunakan sebagai sumber fakta petikan sejarah atau atribusi pengarang.
• Output berstruktur dan pas model kedua mengurangkan mod kegagalan; mereka tidak membuktikan bahawa garis adalah mendalam, asli dalam pengertian global, atau sesuai untuk semua orang.
• Lapisan kebaharuan semantik melepasi apabila katalog terikatnya kosong atau benam perbandingan tidak tersedia; ia mengurangkan hampir pendua yang diketahui tetapi tidak memperakui keaslian global.
• Penjanaan luar talian bergantung pada perkakasan yang serasi, Apple Intelligence yang didayakan, tingkah laku bahasa yang disokong dan aset model yang sudah sedia.
• Penapis rasa Teras ML pilihan yang dipelajari ditentukur untuk bahasa Inggeris, Jerman, Sepanyol, Perancis, Itali dan Portugis; tempat lain masih menerima lapisan berasaskan deterministik dan model yang menyokongnya.
• Saling balik yang diterjemahkan secara tempatan tidak bersamaan dengan penjanaan bahasa sasaran langsung: hasil terjemahan semasa tidak mengulangi setiap lapisan kualiti selepas terjemahan.
• Kemas kini OS dan model boleh menukar kependaman dan pengedaran output, jadi matriks peranti mesti disiarkan semula selepas platform bahan berubah.
• Halaman ini menerangkan seni bina semasa, bukan janji bahawa setiap permukaan platform menjalankan Model Asas. Widget sengaja menggunakan hasil yang berterusan.

[3][9][11]