@Generable'dan SwiftData'ya: cihaz içi fiyat teklifi kalitesinde bir işlem hattı

Kısıtlama “bir modelin alıntı yazmasını sağlamak” değildi

Tek bir istem bir cümle üretebilir. Sistem modelinin hazır olup olmadığını belirleyemez, bir arayüzün duyarlı kalmasını sağlayamaz, oluşturulmuş bir satırı tarihsel bir alıntıdan ayırt edemez, neredeyse kopya olanın kütüphaneye girmesini engelleyemez veya çıkarım başarısız olduğunda ürünü kullanışlı bırakamaz. Bu çevreleyen kararlar özelliktir.

RiseHush'un çıkarım arka ucu yoktur. Desteklenen Apple Intelligence cihazlarında uygulama, Apple'ın cihaz içi sistem dili modeline sınırlı bir istem gönderir ve kabul edilen sonucu yerel SwiftData'da saklar. ürüne yönelik istihbarat sayfası, bir kişinin ne gördüğünü açıklıyor; bu makale uygulama yolunu ve sınırlarını belgelemektedir. Apple'ın kendi kullanılabilirlik API'si, modelin şu anda çalıştırılıp çalıştırılamayacağı konusunda otorite olmaya devam ediyor.

Burada "Tekrarlanabilir", başka bir mühendisin hazırlık matrisini, reddetme fikstürlerini, zaman aşımı yollarını ve kalıcılık kontrollerini tekrarlayabileceği anlamına gelir. Bu, belirlenimci olmayan bir dil modelinin aynı düzyazı parçasını parça parça döndüreceği anlamına gelmez. Bu sayfa, yeni fiziksel cihaz kalitesi ölçümlerini değil, denetlenen kaynak mimarisini rapor eder; bir test komut dosyasından hiçbir kıyaslama sonucu çıkarılmaz.

• Çıkarımı:Apple'ın cihazdaki sistem dili modeli.
• Çıkış sözleşmesi:Kılavuzlu Swift türü, ardından deterministik doğrulama.
• Depolama:Yerel SwiftData satırları oluşturuldu olarak işaretlendi.
• Ağ yolu:RiseHush nesil sunucu veya üçüncü taraf modeli yok.

[1][2]

Bilgi isteminden kitaplığa: üretim yolu

Bu, mevcut uygulama kaynağında incelendiği şekliyle RiseHush'un cihazdaki fiyat teklifi oluşturucusunun arkasındaki mimaridir. Bir geliştiricinin yeniden üretebileceği kapıları, hata yollarını belgeliyor ve kontrol ediyor; bu bir model kıyaslaması ya da her taslağın iyi olduğu iddiası değildir.

Sipariş kasıtlıdır. Ucuz, açıklanabilir kontroller daha fazla çıkarımdan önce gerçekleştirilir; gerekli her kapı adayı kabul edene kadar hiçbir yazma gerçekleşmez. Akışlı yanıt, kayıtlı bir alıntı değil, geçici arayüz metnidir.

1. 01

   Hazır olduğunuzu kanıtlayın

   Hizmet, bir oturum oluşturmadan önce sistem modelinin kullanılabilirliğini ve istenen yerel ayarı kontrol eder. Cihaz uygunluğu, Apple Intelligence durumu, model varlığı hazırlığı ve dil desteği ayrı sonuçlardır.

2. 02

   Taslağı sınırla

   @Generable Swift türü, hiçbir atıf, işaretleme, hashtag, emoji veya tırnak işaretleri olmadan, normalde 10-16 kelimeden oluşan ve hiçbir zaman 18'i aşmayan bir orijinal cümle ister.

3. 03

   Ana aktörün akışını gerçekleştirin

   İstek için yeni bir LanguageModelSession önceden ısıtılır. Kısmi yapılandırılmış anlık görüntüler, Temel Modeller döngüsü ana aktörün dışında kalırken arayüzü güncelleyebilir.

4. 04

   Açık başarısızlıkları reddet

   Modele dayalı herhangi bir değerlendirmeden önce, deterministik bir kapı cümle ve kelime sınırlarını, dil uyumunu, yasaklı parçaları, sarma noktalama işaretlerini ve çok dilli klişe kalıplarını kontrol eder.

5. 05

   Yeniliği ve kaliteyi test edin

   Karşılaştırma yerleştirmeleri mevcut olduğunda, hayatta kalanlar anlamsal olarak neredeyse kopya bir kontrolle, ardından ayrı bir yönlendirmeli değerlendirmeyle ve ayırt edicilik puanıyla karşı karşıya kalır. Gerekli eşiği kaçıran akışlı taslak, sessizce sürdürülmek yerine atılır.

6. 06

   Hayatta kalanın ısrarı

   Meta veriler ana aktörden uzakta hesaplanır. SwiftData ekleme işlemi ana aktöre geri döner, satırı genel etki alanı değil, oluşturulmuş olarak etiketler ve kaydetme başarısız olursa geçici eklemeleri geri alır.

7. 07

   Yerel durumu yeniden kullan

   Uygulama ve sistem yüzeyleri depolanan teklifi kullanır. Widget'lar kalıcı verileri okur; dil modelini bir uzatma zaman çizelgesi içinde uyandırmazlar.

[2][3][4][5]

Kılavuzlu çıktı şekli daraltır; kod hala politikanın sahibi

Taslak,@Generableolarak işaretlenmiş bir Swift türüdür. Kılavuzu, normalde 10-16 kelimeden oluşan ve maksimum 18 sert ipucu içeren bir orijinal cümle ister ve atıf yapmayı, tırnak işaretlerini, hashtag'leri, emojiyi, işaretlemeyi ve satır sonlarını yasaklar. Prodüksiyon seçeneklerinde sıcaklık 0,7 ve 40 jetonluk bir tavan kullanılır: yapılandırılmış ambalaj ve kısa cümle için paragraf uzunluğunda çıktıya gerek kalmadan yeterli alan.

Bu, doğrulamayı isteğe bağlı hale getirmez. Apple, yönlendirmeli oluşturmayı, içeriğin her ürün kuralını karşıladığının garantisi olarak değil, yapılandırılmış Swift verileri üretmenin bir yolu olarak tanımlıyor. Bu nedenle RiseHush, modelin yazılan değerini güvenilmeyen bir taslak olarak ele alır. Aşağıdaki kısaltılmış çizim, üretim siparişini ve eşiklerini korurken uygulamaya özel istem ve kalıcılık ayrıntılarını atlar.

@Generable
private struct GeneratedQuoteDraft {
    @Guide(description: "One original sentence; 10–16 words; no attribution")
    var text: String
}

guard availability(locale: locale) == .available else {
    throw GenerationError.unavailable
}

let stream = session.streamResponse(
    to: prompt,
    generating: GeneratedQuoteDraft.self,
    options: generationOptions
)

for try await snapshot in stream {
    yield(snapshot.content.text)          // interface update
}

guard deterministicGate.passes(text, locale: locale),
      await noveltyGate.isNearDuplicate(text) == false,
      await judge.score(text).overall >= 6,
      distinctiveness.score(text).overall >= 5
else {
    throw GenerationError.noCandidate
}

return try persistAsGeneratedQuote(text)

[4][5]

İkinci geçiş neden hala yeterli değildi?

İlk reddetme katmanı deterministiktir: boş çıktı, yasaklı bilgi istemi kalıntısı, kaydırmalı alıntılar, kelime ve cümle sınırları, dil anlaşmazlığı ve çok dilli klişe sabitler. Yerel Core ML tat filtresi İngilizce, Almanca, İspanyolca, Fransızca, İtalyanca ve Portekizce için öğrenilmiş bir sinyal ekleyebilir; kalibre edilmiş yerel ayarların dışında yanlış uygulanmak yerine kasıtlı olarak atlanır.

Daha sonra, karşılaştırma yerleştirmeleri mevcut olduğunda anlamsal bir yenilik kapısı, adayı sınırlı bir yerel katalogla karşılaştırır ve 0,90'lık bir kosinüs benzerliği eşiğinde neredeyse kopyaları reddeder. Katalog boşsa ya da gömme üretilemiyorsa yenilik iddiasında bulunmak yerine o katmanın geçtiği kanıtlanmıştır. Daha sonra yeni bir Temel Modeller oturumu genel kaliteyi, özgünlüğü ve sıcaklığı puanlar. Bu jüri, aynı sistem modelini kullanan ayrı bir oturumdur; bağımsız bir model veya insan incelemesi değildir. Kullanılamıyorsa, reddediyorsa veya yapılandırılmış çıktı üretemiyorsa deterministik puan, sınırlı bir geri dönüş sağlar.

Son olarak, bir ayırt edicilik puanı somut imgeleri, eylemi, duygusal özgüllüğü ve eylemi ödüllendirirken, formülleri ve güncel olumsuz dayanakları cezalandırır. Kabul için şu anda en az 6 jüri puanı ve en az 5 ayırt edicilik gerekiyor. Bunlar ürün eşikleri olup, küresel orijinalliğin veya güvenliğin kanıtı değildir.

[7]

Modeli ana aktörden uzak tutun

Kamu hizmeti SwiftData model nesnelerini döndürür, böylece giriş noktaları ana aktöre bağlı kalır. Pahalı Foundation Models yanıt döngüsü bunu yapmaz. Her istek yeni birLanguageModelSession'ye sahiptir; akış ve meta veri hesaplaması, aktöre bağlı istem sinyalleri ve kalıcılık için küçük açık atlamalarla ana aktörden kaçar.

Akış, arayüz için kısmi yapılandırılmış anlık görüntüler sağlar ve ardından nihai metni, havuz yolu ile aynı kapı, yenilik, değerlendirme ve farklılık çubuklarından geçirir. Tamamlanmış bir akış, gönderilebilir olmayan bir SwiftData modelini taşımak yerine aktörleri kalıcı tanımlayıcıyla geçer. Arayan kişi bu tanımlayıcıyı kendi aktörüne göre çözer.

Yalnızca kabul edilen metin eklenir. Kayıt RiseHush olarak yazılmıştır,source = .generateveisPublicDomain = falseolarak işaretlenmiştir, yerel ayarıyla etiketlenmiştir ve yerel olarak hesaplanan meta verilerle zenginleştirilmiştir. Kaydetme başarısız olursa, hata geri dönmeden önce geçici eklemeler silinir.

[5][10]

Concierge'i üç salt okunur araçla topraklayın

Ask RiseHush'un bir kişinin kütüphane durumunu icat etmesine izin verilmez. Apple'ın araç çağırma API'si, bir oturumun dar uygulama işlevlerini talep etmesine ve döndürülen verileri dahil etmesine olanak tanır. Uygulama üç sınırlı, salt okunur araç sunar; hiçbiri RiseHush sunucusuna ulaşmıyor.

Araç argümanları ve çıktı boyutları sınırlıdır. Kayıtlı fiyat teklifi araması en fazla sekiz sonuç döndürür, katalog araması en fazla beş sonuç verir ve toplam araç çıktısı sınırlıdır. Kaydedilen fiyat teklifleri aracı, en son eşleşen öğeleri döndürebilir, ancak bir takvim aralığını kabul etmez; bu nedenle ürün, modelin "geçen hafta ne kaydettim?" sorusunu yanıtlayabileceğini vaat etmemelidir.

• Katalog teklifi arama

  Paketlenmiş fiyat teklifi kataloğunu ruh haline, kategoriye veya temaya göre arar. Modelden bir kaynak icat etmesini istemez.

• Kayıtlı fiyat teklifi araması

  Yerel depolama alanında kişinin kendi kaydettiği ve favori alıntılarını arar.

• Seri durumu

  Ask RiseHush'a sınırlı kişisel bir soruyu yanıtlayabilmek için yerel ilham serisini okur.

[6]

Başarısızlık davranışı mimarinin bir parçasıdır

Kullanılabilirlik bir Boole değeri değildir. Uyumlu bir cihazda hâlâ Apple Intelligence devre dışı bırakılmış olabilir, model varlıkları hazırlanıyor olabilir veya sistem modelinin desteklemediği bir dil olabilir. Çalışma zamanı oluşturma işlemi aynı zamanda reddedebilir, bariyerlere çarpabilir, bağlamı aşabilir, kısıtlanabilir, eşzamanlı bir istekle karşılaşabilir, yapılandırılmış ayrıştırmada başarısız olabilir veya zaman aşımına uğrayabilir.

RiseHush bu durumları sonlu ürün davranışıyla eşleştirir. Ön plan oluşturmanın 45 saniyelik bir bütçesi vardır, Siri'nin 20 saniyesi ve arka planda havuz oluşturmanın 120 saniyelik bir bütçesi vardır. Küratörlü kütüphane dürüst bir geri dönüş olmaya devam ediyor; uygulama hiçbir zaman yer tutucu düzyazıyı sanki bir model başarılı olmuş gibi saklamaz.

[2][3][7]

Buluş sonuçları olmayan bir tekrarlanabilirlik protokolü

Aşağıdaki protokol, kaynak denetimini canlı cihaz kanıtından ayırır. Her çalıştırma için donanımı, işletim sistemi yapısını, yerel ayarı, Apple Intelligence durumunu, model hazırlığını, hızlı sabitlemeyi, geçen süreyi, terminal dalını, ret nedenini ve kalıcılık sonucunu kaydedin. Apple'ın Foundation Models Instruments'ı, gerçek bir oturum sırasında istem, araç, belirteç ve gecikme davranışını ortaya çıkarabilir.

Temel Modeller değerlendirme protokolü (JSON) olarak makine tarafından okunabilir bir sürüm mevcuttur. Fabrikasyon ölçümleri değil, matrisi ve saha sözleşmesini içerir. Geçerli bir fiziksel cihaz çalıştırması onaylandığında, anonimleştirilmiş satırlarını ekleyin ve toplu kabul, zaman aşımı ve gecikme değerlerini tam cihaz ve işletim sistemiyle birlikte yayınlayın.

1. Desteklenen bir işletim sistemiyle uyumlu donanım kullanın. Apple Intelligence'ın etkin ve hazır olduğunu, devre dışı olduğunu ve indirilmeye devam ettiğini test edin.
2. Desteklenen bir yerel ayar ve desteklenmeyen bir yerel ayar ile tekrarlayın; Uygulamanın model desteğini genel cihaz uygunluğundan ayırt ettiğini doğrulayın.
3. Model varlıkları hazır olduktan sonra Uçak Modunda tekrarlayın ve RiseHush nesil uç noktasının gerekmediğini doğrulayın.
4. Arayüzle etkileşimde bulunurken kısmi metni gözlemleyin; Model dönüşü sırasında kaydırma ve kontrollerin duyarlı kaldığını doğrulayın.
5. Boş, çok cümleli, çok uzun, tırnak içine alınmış, yanlış dilde yazılmış, klişe veya neredeyse kopyalanmış feed demirbaşları; hiçbiri kaydedilmiş oluşturulan satırlara dönüşmemelidir.
6. Hakem reddini ve sınırlı bir zaman aşımını tetikleyin; Reddedilen hiçbir taslağın kalıcı olmadığını ve seçilen deneyimin kullanılabilir durumda kaldığını onaylayın.
7. Bir test deposunda yerel kaydetme hatasını zorlayın; eklenen modellerin geri alındığını doğrulayın.
8. Siri'yi daha kısa zaman bütçesiyle kullanın ve widget'ların uzantıda oluşturmaya başlamak yerine yalnızca kalıcı verileri okuduğunu doğrulayın.

[8]

Bu mimari neyi kanıtlamıyor?

Kaliteli bir işlem hattı, arızayı görünür hale getirebilir ve kötü kalıcılığı azaltabilir. Cihazdaki küçük bir dil modelini tarihsel bir kaynağa dönüştüremez, bir cümlenin hiçbir yerde yazılmadığını kanıtlayamaz veya beğeniyi garanti edemez. Bu nedenle oluşturulan satırlar asla tarihsel yazarlara atfedilmez ve hiçbir zaman kamu malı kataloğuna girmez.

Çeviri ayrı bir uyarıyı hak ediyor. Temel Modeller tarafından doğrudan desteklenmeyen bir yerel ayar için, isteğe bağlı yol tamamen İngilizce taslağı kapsıyor ve ardından çiftin mevcut olduğu durumlarda Apple'ın cihaz içi Çeviri çerçevesini kullanıyor. Çevrilen sonuç, boş olmayan bir yanıt açısından kontrol edilir ve yeni meta verilerle sürdürülür, ancak şu anda çeviriden sonra tam hedef dil kapısını, yeniliği ve değerlendirme sırasını tekrarlamamaktadır. Bu yol, eşit doğrudan üretim kalitesinin kanıtı değil, bir geri dönüş yoludur.

Model ve işletim sistemi güncellemeleri kullanılabilirliği, gecikmeyi, reddetme davranışını ve çıktı dağıtımını değiştirebilir. Apple, Temel Modeller değiştikçe istemlerin ve değerlendirmenin yeniden gözden geçirilmesini önerir. Bu nedenle, RiseHush'un test matrisi, bu sayfayı kalıcı bir karşılaştırma kanıtı olarak ele almak yerine, önemli platform güncellemelerinden sonra yeniden çalıştırılmalıdır.

• Sistem modeli, tarihsel alıntı gerçekleri veya yazar atıfları kaynağı olarak kullanılmaz.
• Yapılandırılmış çıktı ve ikinci model geçişi arıza modlarını azaltır; bir satırın derin olduğunu, küresel anlamda özgün olduğunu, herkese uygun olduğunu kanıtlamaz.
• Anlamsal yenilik katmanı, sınırlı kataloğu boş olduğunda veya karşılaştırma yerleştirmeleri mevcut olmadığında geçer; bilinen neredeyse kopyaları azaltır ancak küresel orijinalliği onaylamaz.
• Çevrimdışı oluşturma, uyumlu donanıma, etkinleştirilmiş Apple Intelligence'a, desteklenen dil davranışına ve halihazırda hazır olan model varlıklarına bağlıdır.
• İsteğe bağlı öğrenilen Core ML tat filtresi İngilizce, Almanca, İspanyolca, Fransızca, İtalyanca ve Portekizce için kalibre edilmiştir; diğer yerel ayarlar hâlâ kendilerini destekleyen deterministik ve model tabanlı katmanları alıyor.
• Yerel olarak çevrilmiş bir geri dönüş, doğrudan hedef dil oluşturmaya eşdeğer değildir: mevcut çevrilmiş sonuç, çeviriden sonra her kalite katmanını tekrarlamaz.
• İşletim sistemi ve model güncellemeleri gecikmeyi ve çıktı dağıtımını değiştirebilir, dolayısıyla cihaz matrisinin önemli platform değişikliklerinden sonra yeniden çalıştırılması gerekir.
• Bu sayfa, her platform yüzeyinin Temel Modellerini çalıştıracağına dair bir söz vermek yerine, mevcut mimariyi açıklamaktadır. Widget'lar kalıcı sonuçları kasıtlı olarak tüketir.

[3][9][11]