מ-@Generable ל-SwiftData: צינור באיכות הצעות מחיר במכשיר

האילוץ לא היה "לגרום לדוגמנית לכתוב ציטוט"

הנחיה בודדת יכולה לייצר משפט. היא לא יכולה לקבוע אם מודל המערכת מוכן, לשמור על ממשק תגובה, להבחין בין קו שנוצר מציטוט היסטורי, למנוע מכפיל שכפול להיכנס לספרייה, או להשאיר את המוצר שימושי כאשר ההסקה נכשלת. ההחלטות שמסביב הן התכונה.

ל- RiseHush אין מסקנות עורפית. במכשירי Apple Intelligence נתמכים, האפליקציה שולחת הנחיה מוגבלת למודל שפת המערכת במכשיר של אפל ומאחסנת תוצאה מקובלת ב-SwiftData המקומית. דף המודיעין הפונה למוצרמסביר מה אדם רואה; מאמר זה מתעד את נתיב היישום ומגבלותיו. ממשק ה-API של אפל לזמינות נשאר הסמכות לשאלה האם הדגם יכול לפעול כעת.

"ניתן לשחזור" כאן פירושו שמהנדס אחר יכול לחזור על מטריצת המוכנות, תקני הדחייה, נתיבי הזמן הקצוב ובדיקות ההתמדה. זה לא אומר שמודל שפה לא דטרמיניסטי יחזיר את אותה פרוזה קצת אחר קצת. דף זה מדווח על ארכיטקטורת מקור שנבדקה, לא מדדי איכות פיזיים חדשים של מכשיר; שום תוצאת אמת מידה אינה מוסקת מתסריט בדיקה.

• מסקנות:דגם שפת המערכת של אפל, במכשיר.
• חוזה פלט:סוג Swift מודרך, ולאחר מכן אימות דטרמיניסטי.
• אחסון: שורות SwiftData מקומיות שלמסומנות כמופקות.
• נתיב רשת:ללא שרת דור RiseHush או דגם של צד שלישי.

[1][2]

מהנחיה לספרייה: נתיב הייצור

זוהי הארכיטקטורה מאחורי מחולל הצעות המחיר במכשיר של RiseHush כפי שנבדק במקור האפליקציה הנוכחי. הוא מתעד את השערים, נתיבי הכשל, ובודק שמפתח יכול לשחזר; זה לא מדד מודל או טענה שכל טיוטה טובה.

ההזמנה היא מכוונת. בדיקות זולות ניתנות להסבר פועלות לפני מסקנות נוספות; שום כתיבה לא מתרחשת עד שכל שער נדרש קיבל את המועמד. תשובה זורמת היא טקסט ממשק זמני, לא ציטוט שמור.

1. 01

   להוכיח מוכנות

   השירות בודק את זמינות מודל המערכת ואת המקום המבוקש לפני שהוא יוצר הפעלה. זכאות המכשיר, מצב Apple Intelligence, מוכנות נכסי דגם ותמיכה בשפה הן תוצאות נפרדות.

2. 02

   הגבל את הטיוטה

   סוג @Generable Swift מבקש משפט מקורי אחד, בדרך כלל 10-16 מילים ולעולם לא יותר מ-18, ללא ייחוס, סימון, האשטאגים, אימוג'י או מרכאות עטיפות.

3. 03

   זרם את השחקן הראשי

   הפעלה חדשה של LanguageModelSession מחוממת לבקשה. צילומי מצב מובנים חלקיים יכולים לעדכן את הממשק בעוד לולאת ה-Foundation Models נשארת מחוץ לשחקן הראשי.

4. 04

   דחה כישלונות ברורים

   לפני כל שיפוט מבוסס מודל, שער דטרמיניסטי בודק את גבולות המשפט והמילים, הסכמי שפה, קטעים אסורים, סימני פיסוק עטופים ודפוסי קלישאה רב לשוניים.

5. 05

   מבחן חידוש ואיכות

   כאשר הטמעות השוואה זמינות, הניצולים מתמודדים עם בדיקה כמעט כפולה סמנטי, ולאחר מכן שופט מודרך נפרד וציון ייחוד. טיוטה מוזרמת שמפסידה סף נדרש נמחקת ולא נמשכת בשקט.

6. 06

   התמידו בשורד

   מטא נתונים מחושבים הרחק מהשחקן הראשי. הכנסת SwiftData חוזרת לשחקן הראשי, מתייגת את השורה כמופקה ולא ברשות הציבור, ומחזירה תוספות חולפות אם השמירה נכשלת.

7. 07

   שימוש חוזר במדינה המקומית

   האפליקציה ומשטחי המערכת צורכים את הצעת המחיר המאוחסנת. ווידג'טים קוראים נתונים מתמידים; הם לא מעירים את מודל השפה בתוך ציר זמן של הרחבה.

[2][3][4][5]

פלט מודרך מצמצם צורה; הקוד עדיין מחזיק במדיניות

הטיוטה היא מסוג Swift המסומן@Generable. המדריך שלו מבקש משפט מקורי אחד, בדרך כלל 10-16 מילים עם הנחיה קשיחה מקסימלית של 18, ואוסר על ייחוס, גלישת מרכאות, האשטאגים, אימוג'י, סימון ומעברי שורות. אפשרויות הייצור משתמשות בטמפרטורה של 0.7 ותקרה של 40 אסימונים: מספיק מקום לעטיפה המובנית ולמשפט קצר, מבלי להזמין פלט באורך פסקה.

זה לא הופך את האימות לאופציונלי. אפל מתארת ​​יצירה מודרכת כדרך לייצר נתונים מובנים של Swift, ולא ערובה לכך שהתוכן עומד בכל כלל מוצר. לכן RiseHush מתייחסת לערך המוקלד של המודל כאל טיוטה לא מהימנה. הסקיצה המקוצרת למטה משמרת את סדר הייצור ואת הספים תוך השמטת פירוט הנחיות והתמדה ספציפיות לאפליקציה.

@Generable
private struct GeneratedQuoteDraft {
    @Guide(description: "One original sentence; 10–16 words; no attribution")
    var text: String
}

guard availability(locale: locale) == .available else {
    throw GenerationError.unavailable
}

let stream = session.streamResponse(
    to: prompt,
    generating: GeneratedQuoteDraft.self,
    options: generationOptions
)

for try await snapshot in stream {
    yield(snapshot.content.text)          // interface update
}

guard deterministicGate.passes(text, locale: locale),
      await noveltyGate.isNearDuplicate(text) == false,
      await judge.score(text).overall >= 6,
      distinctiveness.score(text).overall >= 5
else {
    throw GenerationError.noCandidate
}

return try persistAsGeneratedQuote(text)

[4][5]

מדוע מעבר שני עדיין לא הספיק

שכבת הדחייה הראשונה היא דטרמיניסטית: פלט ריק, שאריות פקודות אסורות, ציטוטים עטופים, מגבלות מילים ומשפטים, אי הסכמה בשפה ותקיפי קלישאה רב-לשוניים. מסנן טעם מקומי Core ML יכול להוסיף אות נלמד לאנגלית, גרמנית, ספרדית, צרפתית, איטלקית ופורטוגזית; מדלגים עליו בכוונה ולא מיושמים אותו מחוץ לאותם אזורים מכוילים.

לאחר מכן, כאשר הטמעות השוואה זמינות, שער חידוש סמנטי משווה את המועמד עם קטלוג מקומי מוגבל ודוחה כמעט כפילויות בסף קוסינוס של 0.90. אם הקטלוג ריק או שלא ניתן לייצר הטבעה, השכבה הזו עוברת במקום לטעון שהחידוש הוכח. מפגש חדש של מודלים של קרן זוכה לאיכות כללית, מקוריות וחמימות. השופט הזה הוא מושב נפרד המשתמש באותו מודל מערכת - לא מודל עצמאי ולא סקירה אנושית. אם הוא אינו זמין, מסרב או אינו יכול לייצר פלט מובנה, ציון דטרמיניסטי מספק נפילה מוגבלת.

לבסוף, ציון ייחוד מתגמל דימויים קונקרטיים, פעולה, ספציפיות רגשית וסוכנות תוך ענישה של נוסחאות ועוגנים שליליים לאחרונה. הקבלה מחייבת כרגע ציון שופט של לפחות 6 וייחוד של לפחות 5. אלו הם ספי מוצר, לא הוכחה למקוריות או בטיחות עולמית.

[7]

הרחיקו את הדוגמנית מהשחקן הראשי

השירות הציבורי מחזיר אובייקטים של מודל SwiftData, כך שנקודות הכניסה שלו נשארות קשורות לשחקן הראשי. לולאת התגובה היקרה של Foundation Models לא. כל בקשה היא הבעלים שלLanguageModelSessionחדש; סטרימינג וחישוב מטא נתונים בורחים מהשחקן הראשי, עם קפיצות קטנות מפורשות לאותות דחופים והתמדה.

סטרימינג מניב צילומי מצב מובנים חלקיים עבור הממשק, ולאחר מכן מעביר את הטקסט הסופי דרך אותו שער, חידוש, שופט וייחוד כמו נתיב הבריכה. זרם שהושלם חוצה שחקנים לפי מזהה מתמשך במקום להעביר מודל SwiftData שאינו ניתן לשליחה. המתקשר פותר את המזהה על השחקן שלו.

רק טקסט מקובל הוכנס. הרשומה נכתבה כ-RiseHush, מסומנתsource = .generatedו-isPublicDomain = false, מתויגת עם המקום שלה, ומועשרת במטא נתונים מחושבים מקומית. אם השמירה נכשלת, התוספות החולפות נמחקות לפני שהשגיאה חוזרת.

[5][10]

קרקע את השוער עם שלושה כלים לקריאה בלבד

Ask RiseHush אינו רשאי להמציא את מצב הספרייה של אדם. ה-API של אפל לקריאת כלים מאפשר לבקשת הפעלה לצמצם פונקציות של אפליקציה ולשלב את הנתונים המוחזרים שלהן. האפליקציה חושפת שלושה כלים מוגבלים לקריאה בלבד; אף אחד לא מגיע לשרת RiseHush.

ארגומנטים של כלי וגדלי פלט מוגבלים. חיפוש ציטוט שמור מחזיר לכל היותר שמונה תוצאות, חיפוש קטלוגי לכל היותר חמש, והפלט הכולל של הכלי מוגבל. כלי הציטוטים השמורים יכול להחזיר פריטים תואמים אחרונים, אבל הוא לא מקבל טווח לוח שנה - כך שהמוצר לא צריך להבטיח שהדגם יכול לענות "מה שמרתי בשבוע שעבר?"

• חיפוש הצעות מחיר בקטלוג

  חיפוש בקטלוג הציטוטים המצורפים לפי מצב רוח, קטגוריה או נושא. זה לא מבקש מהמודל להמציא מקור.

• חיפוש ציטוט שמור

  מחפש את הציטוטים השמורים והאהובים של האדם עצמו באחסון מקומי.

• סטטוס פס

  קורא את רצף ההשראה המקומי כדי שאשאל RiseHush יוכל לענות על שאלה אישית מוגבלת.

[6]

התנהגות כשל היא חלק מהארכיטקטורה

הזמינות אינה בוליאנית. ייתכן שמכשיר תואם עדיין מושבת של Apple Intelligence, נכסי דגם מתכוננים או שפה שדגם המערכת אינו תומך בה. יצירת זמן ריצה יכולה גם לסרב, לפגוע במעקה בטיחות, לחרוג מהקשר, להיות חוסם, להיתקל בבקשה במקביל, להיכשל בניתוח מובנה או פסק זמן.

RiseHush ממפה את המקרים האלה להתנהגות מוצר מוגבלת. לדור החזית יש תקציב של 45 שניות, ל-Siri 20 שניות, ויצירת מאגר ברקע 120 שניות. הספרייה שנאספה נותרה הנסיגה הכנה; האפליקציה אף פעם לא מאחסנת פרוזה של מציין מיקום כאילו דגם הצליח.

[2][3][7]

פרוטוקול לשחזור, ללא תוצאות מומצאות

הפרוטוקול שלהלן מפריד בין בדיקת מקור להוכחת מכשיר חי. הקלט חומרה, בניית מערכת הפעלה, מיקום, מצב Apple Intelligence, מוכנות הדגם, התאמה מיידית, זמן שחלף, ענף מסוף, סיבת דחייה ותוצאת התמדה עבור כל ריצה. מכשירי ה-Foundation Models של אפל יכולים לחשוף התנהגות של הנחיות, כלים, אסימון והשהייה במהלך הפעלה אמיתית.

גרסה הניתנת לקריאה במכונה זמינה כ-Foundation Models Evaluation protocol (JSON). הוא מכיל את המטריצה ​​וחוזה השדה, לא מידות מפוברקות. כאשר ריצה נוכחית של מכשיר פיזי מאושרת, הוסף את השורות האנונימיות שלו ופרסם ערכי קבלה, זמן קצוב והשהייה מצטברים עם המכשיר ומערכת ההפעלה המדויקים.

1. השתמש בחומרה תואמת עם מערכת הפעלה נתמכת. בדוק את Apple Intelligence מופעל ומוכן, מושבת ועדיין מוריד.
2. חזור עם מיקום נתמך ומקום לא נתמך; ודא שהאפליקציה מבדילה בין תמיכת דגמים לבין זכאות כללית למכשיר.
3. לאחר שנכסי הדגם מוכנים, חזור על מצב טיסה ואשר שלא נדרשת נקודת קצה ליצירת RiseHush.
4. צפה בטקסט חלקי תוך כדי אינטראקציה עם הממשק; אשר שהגלילה והפקדים נשארים מגיבים במהלך פניית הדגם.
5. אביזרי הזנה ריקים, מרובי משפטים, ארוכים מדי, עטופים במרכאות, בשפה לא נכונה, קלישאתיים או כמעט כפילויות; אף אחת לא אמורה להפוך לשורות שנוצרו נשמרות.
6. טריגר דחיית שופט ופסק זמן סופי; לאשר שאין טיוטה שנדחתה נמשכת והחוויה שנאספה נשארת זמינה.
7. לכפות כשל בשמירה מקומית בחנות בדיקה; ודא שהדגמים שהוכנסו מוחזרים לאחור.
8. תפעיל את Siri עם תקציב הזמן הקצר יותר שלו וודא שווידג'טים קוראים רק נתונים מתמידים במקום להתחיל ליצור בתוסף.

[8]

מה שהארכיטקטורה הזו לא מוכיחה

צינור איכותי יכול להפוך את הכשל לגלוי ולהפחית את ההתמדה הרעה. היא לא יכולה להפוך מודל שפה קטן במכשיר למקור היסטורי, להוכיח שמעולם לא נכתב משפט בשום מקום, או להבטיח טעם. לפיכך שורות שנוצרו לעולם אינן מיוחסות לסופרים היסטוריים ולעולם לא נכנסות לקטלוג הרשות הרבים.

לתרגום מגיע אזהרה נפרדת. עבור אזור שאינו נתמך ישירות על ידי Foundation Models, הנתיב האופציונלי משגר במלואו טיוטה באנגלית ולאחר מכן משתמש במסגרת התרגום במכשיר של אפל שבה הצמד זמין. התוצאה המתורגמת נבדקת עבור תגובה לא ריקה ונמשכת עם מטא נתונים חדשים, אך היא אינה חוזרת כעת על השער המלא בשפת היעד, החידוש ורצף השיפוט לאחר התרגום. הנתיב הזה הוא נסיגה, לא עדות לאיכות שווה של דור ישיר.

עדכוני מודל ומערכת הפעלה יכולים לשנות זמינות, זמן אחזור, התנהגות סירוב והפצת פלט. אפל ממליצה לעיין מחדש בהנחיות ובהערכה כאשר מודלים של בסיס משתנים. לכן יש להפעיל מחדש את מטריצת הבדיקה של RiseHush לאחר עדכוני פלטפורמה מהותיים במקום להתייחס לדף זה כהוכחה קבועה.

• מודל המערכת אינו משמש כמקור לעובדות ציטוט היסטוריות או ייחוס מחבר.
• פלט מובנה ומעבר דגם שני מפחיתים מצבי כשל; הם לא מוכיחים שקו הוא עמוק, מקורי במובן הגלובלי, או מתאים לכולם.
• שכבת החידוש הסמנטי עוברת כאשר הקטלוג התחום שלה ריק או הטמעות השוואה אינן זמינות; הוא מפחית כמעט כפילויות ידועות אך אינו מאשר מקוריות גלובלית.
• יצירת אופליין תלויה בחומרה תואמת, Apple Intelligence מופעלת, התנהגות שפה נתמכת ונכסי מודל שכבר מוכנים.
• מסנן הטעם האופציונלי למד Core ML מכויל לאנגלית, גרמנית, ספרדית, צרפתית, איטלקית ופורטוגזית; אזורים אחרים עדיין מקבלים את השכבות הדטרמיניסטיות והמבוססות על מודלים התומכים בהם.
• סתירה מתורגמת מקומית אינה שווה ערך ליצירת שפת יעד ישירה: התוצאה המתורגמת הנוכחית אינה חוזרת על כל שכבת איכות לאחר התרגום.
• עדכוני מערכת ההפעלה והדגמים יכולים לשנות את זמן ההשהיה ואת התפלגות הפלט, ולכן יש להפעיל מחדש את מטריצת המכשיר לאחר שינויים מהותיים בפלטפורמה.
• דף זה מתאר את הארכיטקטורה הנוכחית, לא הבטחה שכל משטח פלטפורמה מפעיל מודלים של יסוד. ווידג'טים צורכים בכוונה תוצאות מתמשכות.

[3][9][11]