@जेनरेबल से स्विफ्टडेटा तक: एक ऑन-डिवाइस कोट-क्वालिटी पाइपलाइन

बाधा यह नहीं थी कि "एक मॉडल से एक उद्धरण लिखवाया जाए"

एक एकल संकेत एक वाक्य उत्पन्न कर सकता है। यह स्थापित नहीं कर सकता है कि सिस्टम मॉडल तैयार है या नहीं, एक इंटरफ़ेस को उत्तरदायी रखें, एक ऐतिहासिक उद्धरण से उत्पन्न लाइन को अलग करें, लाइब्रेरी में प्रवेश करने से लगभग डुप्लिकेट को रोकें, या अनुमान विफल होने पर उत्पाद को उपयोगी छोड़ दें। वे आसपास के निर्णयों की विशेषता हैं।

राइजहश का कोई अनुमान बैकएंड नहीं है। समर्थित ऐप्पल इंटेलिजेंस डिवाइस पर, ऐप ऐप्पल के ऑन-डिवाइस सिस्टम भाषा मॉडल के लिए एक सीमित संकेत भेजता है और स्थानीय स्विफ्टडेटा में स्वीकृत परिणाम संग्रहीत करता है।उत्पाद-सामना खुफिया पृष्ठबताता है कि एक व्यक्ति क्या देखता है; यह आलेख कार्यान्वयन पथ और उसकी सीमाओं का दस्तावेजीकरण करता है। मॉडल अब चल सकता है या नहीं, इसके लिए ऐप्पल की अपनी उपलब्धता एपीआई प्राधिकरण बनी हुई है।

यहां "पुनरुत्पादन योग्य" का अर्थ है कि कोई अन्य इंजीनियर तत्परता मैट्रिक्स, अस्वीकृति फिक्स्चर, टाइमआउट पथ और दृढ़ता जांच दोहरा सकता है। इसका मतलब यह नहीं है कि एक गैर-नियतात्मक भाषा मॉडल बिट के लिए समान गद्य बिट लौटाएगा। यह पृष्ठ निरीक्षण किए गए स्रोत आर्किटेक्चर की रिपोर्ट करता है, न कि ताज़ा भौतिक-डिवाइस गुणवत्ता मेट्रिक्स की; परीक्षण स्क्रिप्ट से किसी बेंचमार्क परिणाम का अनुमान नहीं लगाया जाता है।

• अनुमान:Apple का सिस्टम भाषा मॉडल, डिवाइस पर।
• आउटपुट अनुबंध:एक निर्देशित स्विफ्ट प्रकार, फिर नियतात्मक सत्यापन।
• संग्रहण:स्थानीय स्विफ्टडेटा पंक्तियों को जनरेट किया गया के रूप में चिह्नित किया गया।
• नेटवर्क पथ:कोई राइजहश जेनरेशन सर्वर या तृतीय-पक्ष मॉडल नहीं।

[1][2]

प्रॉम्प्ट से लाइब्रेरी तक: उत्पादन पथ

जैसा कि वर्तमान ऐप स्रोत में निरीक्षण किया गया है, यह राइजहश के ऑन-डिवाइस उद्धरण जनरेटर के पीछे की वास्तुकला है। यह गेटों, विफलता पथों का दस्तावेजीकरण करता है, और जाँच करता है कि एक डेवलपर पुन: उत्पन्न कर सकता है; यह कोई मॉडल बेंचमार्क या दावा नहीं है कि हर ड्राफ्ट अच्छा है।

आदेश जानबूझकर दिया गया है। सस्ते, समझाने योग्य जाँच अधिक अनुमान से पहले चलती हैं; जब तक प्रत्येक आवश्यक गेट ने उम्मीदवार को स्वीकार नहीं कर लिया, तब तक कोई लेखन नहीं होता। स्ट्रीम किया गया उत्तर अनंतिम इंटरफ़ेस टेक्स्ट है, सहेजा गया उद्धरण नहीं।

1. 01

   तत्परता साबित करें

   सेवा सत्र बनाने से पहले सिस्टम मॉडल की उपलब्धता और अनुरोधित स्थान की जाँच करती है। डिवाइस पात्रता, ऐप्पल इंटेलिजेंस स्थिति, मॉडल-परिसंपत्ति तैयारी और भाषा समर्थन अलग-अलग परिणाम हैं।

2. 02

   ड्राफ्ट को रोकें

   @जेनरेबल स्विफ्ट प्रकार एक मूल वाक्य मांगता है, आम तौर पर 10-16 शब्द और कभी भी 18 से अधिक नहीं, बिना किसी एट्रिब्यूशन, मार्कडाउन, हैशटैग, इमोजी या रैपिंग उद्धरण चिह्नों के।

3. 03

   मुख्य अभिनेता को स्ट्रीम करें

   अनुरोध के लिए एक ताज़ा भाषा मॉडल सत्र पहले से तैयार किया गया है। आंशिक संरचित स्नैपशॉट इंटरफ़ेस को अपडेट कर सकते हैं जबकि फाउंडेशन मॉडल लूप मुख्य अभिनेता से दूर रहता है।

4. 04

   स्पष्ट विफलताओं को अस्वीकार करें

   किसी भी मॉडल-आधारित निर्णय से पहले, एक नियतात्मक गेट वाक्य और शब्द सीमा, भाषा समझौते, प्रतिबंधित टुकड़े, रैपिंग विराम चिह्न और बहुभाषी क्लिच पैटर्न की जांच करता है।

5. 05

   नवीनता और गुणवत्ता का परीक्षण करें

   जब तुलनात्मक एम्बेडिंग उपलब्ध होती है, तो बचे लोगों को सिमेंटिक नियर-डुप्लिकेट जांच का सामना करना पड़ता है, फिर एक अलग निर्देशित न्यायाधीश और विशिष्टता स्कोर का सामना करना पड़ता है। एक स्ट्रीम किया गया ड्राफ्ट जो एक आवश्यक सीमा से चूक जाता है उसे चुपचाप जारी रखने के बजाय खारिज कर दिया जाता है।

6. 06

   बचे रहो

   मेटाडेटा की गणना मुख्य अभिनेता से दूर की जाती है। स्विफ्टडेटा सम्मिलन मुख्य अभिनेता पर लौटता है, लाइन को जनरेट किया गया है न कि सार्वजनिक-डोमेन के रूप में लेबल करता है, और यदि बचत विफल हो जाती है तो क्षणिक सम्मिलन वापस ले लेता है।

7. 07

   स्थानीय स्थिति का पुन: उपयोग करें

   ऐप और सिस्टम सतहें संग्रहीत उद्धरण का उपभोग करती हैं। विजेट निरंतर डेटा पढ़ते हैं; वे किसी एक्सटेंशन टाइमलाइन के अंदर भाषा मॉडल को जागृत नहीं करते हैं।

[2][3][4][5]

निर्देशित आउटपुट आकार को संकीर्ण करता है; कोड अभी भी नीति का स्वामी है

ड्राफ्ट एक स्विफ्ट प्रकार है जिस पर@Generableअंकित है। इसका गाइड एक मूल वाक्य मांगता है, आम तौर पर 10-16 शब्द और अधिकतम 18 हार्ड प्रॉम्प्ट, और एट्रिब्यूशन, उद्धरण चिह्न, हैशटैग, इमोजी, मार्कडाउन और लाइन ब्रेक को लपेटने पर रोक लगाता है। उत्पादन विकल्प तापमान 0.7 और 40-टोकन छत का उपयोग करते हैं: पैराग्राफ-लंबाई आउटपुट को आमंत्रित किए बिना, संरचित आवरण और छोटे वाक्य के लिए पर्याप्त जगह।

यह सत्यापन को वैकल्पिक नहीं बनाता है. ऐप्पल गाइडेड जेनरेशन को संरचित स्विफ्ट डेटा तैयार करने के एक तरीके के रूप में वर्णित करता है, न कि यह गारंटी देता है कि सामग्री हर उत्पाद नियम को पूरा करती है। इसलिए RiseHush मॉडल के टाइप किए गए मान को एक अविश्वसनीय ड्राफ्ट के रूप में मानता है। नीचे दिया गया संक्षिप्त स्केच ऐप-विशिष्ट संकेत और दृढ़ता विवरण को छोड़ते हुए उत्पादन ऑर्डर और थ्रेसहोल्ड को संरक्षित करता है।

@Generable
private struct GeneratedQuoteDraft {
    @Guide(description: "One original sentence; 10–16 words; no attribution")
    var text: String
}

guard availability(locale: locale) == .available else {
    throw GenerationError.unavailable
}

let stream = session.streamResponse(
    to: prompt,
    generating: GeneratedQuoteDraft.self,
    options: generationOptions
)

for try await snapshot in stream {
    yield(snapshot.content.text)          // interface update
}

guard deterministicGate.passes(text, locale: locale),
      await noveltyGate.isNearDuplicate(text) == false,
      await judge.score(text).overall >= 6,
      distinctiveness.score(text).overall >= 5
else {
    throw GenerationError.noCandidate
}

return try persistAsGeneratedQuote(text)

[4][5]

दूसरा पास अभी भी पर्याप्त क्यों नहीं था?

पहली अस्वीकृति परत नियतात्मक है: खाली आउटपुट, प्रतिबंधित शीघ्र अवशेष, रैपिंग उद्धरण, शब्द और वाक्य सीमाएं, भाषा असहमति, और बहुभाषी क्लिच फिक्स्चर। एक स्थानीय कोर एमएल स्वाद फ़िल्टर अंग्रेजी, जर्मन, स्पेनिश, फ्रेंच, इतालवी और पुर्तगाली के लिए सीखा हुआ संकेत जोड़ सकता है; इसे उन कैलिब्रेटेड स्थानों के बाहर गलत तरीके से लागू करने के बजाय जानबूझकर छोड़ दिया गया है।

इसके बाद, जब तुलना एम्बेडिंग उपलब्ध होती है, तो एक सिमेंटिक नॉवेल्टी गेट एक सीमित स्थानीय कैटलॉग के साथ उम्मीदवार की तुलना करता है और 0.90 की कोसाइन-समानता सीमा पर निकट-डुप्लिकेट को अस्वीकार कर देता है। यदि कैटलॉग खाली है या एम्बेडिंग का उत्पादन नहीं किया जा सकता है, तो नवीनता साबित होने का दावा करने के बजाय वह परत गुजरती है। फिर एक नया फाउंडेशन मॉडल सत्र समग्र गुणवत्ता, मौलिकता और गर्मजोशी का मूल्यांकन करता है। वह जज समान सिस्टम मॉडल का उपयोग करने वाला एक अलग सत्र है - न कि एक स्वतंत्र मॉडल और न ही कोई मानवीय समीक्षा। यदि यह अनुपलब्ध है, अस्वीकार करता है, या संरचित आउटपुट का उत्पादन नहीं कर सकता है, तो एक नियतात्मक स्कोर एक सीमित फ़ॉलबैक प्रदान करता है।

अंत में, एक विशिष्टता स्कोर सूत्रों और हाल के नकारात्मक एंकरों को दंडित करते हुए ठोस कल्पना, कार्रवाई, भावनात्मक विशिष्टता और एजेंसी को पुरस्कृत करता है। स्वीकृति के लिए वर्तमान में कम से कम 6 के जज स्कोर और कम से कम 5 की विशिष्टता की आवश्यकता होती है। ये उत्पाद सीमाएँ हैं, वैश्विक मौलिकता या सुरक्षा का प्रमाण नहीं।

[7]

मॉडल को मुख्य अभिनेता से दूर रखें

सार्वजनिक सेवा स्विफ्टडाटा मॉडल ऑब्जेक्ट लौटाती है, इसलिए इसके प्रवेश बिंदु मुख्य-अभिनेता-बाउंड रहते हैं। महंगा फाउंडेशन मॉडल रिस्पांस लूप नहीं है। प्रत्येक अनुरोध एक ताज़ाभाषा मॉडल सत्रका स्वामी है; स्ट्रीमिंग और मेटाडेटा गणना मुख्य अभिनेता से दूर चलती है, अभिनेता-बाउंड शीघ्र संकेतों और दृढ़ता के लिए छोटे स्पष्ट हॉप्स के साथ।

स्ट्रीमिंग इंटरफ़ेस के लिए आंशिक संरचित स्नैपशॉट उत्पन्न करती है, फिर अंतिम पाठ को पूल पथ के समान गेट, नवीनता, जज और विशिष्टता बार के माध्यम से सौंपती है। एक पूर्ण स्ट्रीम गैर-भेजने योग्य स्विफ्टडेटा मॉडल को स्थानांतरित करने के बजाय लगातार पहचानकर्ता द्वारा अभिनेताओं को पार करती है। कॉल करने वाला उस पहचानकर्ता को अपने अभिनेता पर हल करता है।

केवल स्वीकृत पाठ ही डाला गया है. रिकॉर्ड को RiseHush के रूप में लिखा गया है,source = .generatedऔरisPublicDomain = falseके रूप में चिह्नित किया गया है, इसके स्थान के साथ टैग किया गया है, और स्थानीय रूप से गणना किए गए मेटाडेटा के साथ समृद्ध किया गया है। यदि बचत विफल हो जाती है, तो त्रुटि वापस आने से पहले क्षणिक प्रविष्टियाँ हटा दी जाती हैं।

[5][10]

तीन-केवल पढ़ने योग्य उपकरणों के साथ द्वारपाल को ग्राउंड करें

आस्क राइजहश को किसी व्यक्ति की लाइब्रेरी स्थिति का आविष्कार करने की अनुमति नहीं है। ऐप्पल का टूल-कॉलिंग एपीआई एक सत्र को संकीर्ण ऐप फ़ंक्शंस का अनुरोध करने और उनके लौटाए गए डेटा को शामिल करने देता है। ऐप तीन सीमित, केवल पढ़ने योग्य टूल को उजागर करता है; कोई भी राइजहश सर्वर तक नहीं पहुंचता है।

टूल तर्क और आउटपुट आकार सीमित हैं। सहेजे गए-उद्धरण लुकअप अधिकतम आठ परिणामों पर रिटर्न देता है, कैटलॉग खोज अधिकतम पांच पर, और कुल टूल आउटपुट कैप्ड है। सहेजे गए उद्धरण उपकरण हाल के मिलान वाले आइटम लौटा सकते हैं, लेकिन यह कैलेंडर श्रेणी को स्वीकार नहीं करता है - इसलिए उत्पाद को यह वादा नहीं करना चाहिए कि मॉडल उत्तर दे सकता है "मैंने पिछले सप्ताह क्या बचाया था?"

• कैटलॉग उद्धरण खोज

  मूड, श्रेणी, या थीम के आधार पर बंडल किए गए उद्धरण कैटलॉग को खोजता है। यह मॉडल को किसी स्रोत का आविष्कार करने के लिए नहीं कहता है।

• सहेजा गया उद्धरण लुकअप

  स्थानीय भंडारण में व्यक्ति के स्वयं के सहेजे गए और पसंदीदा उद्धरण खोजता है।

• लकीर की स्थिति

  स्थानीय प्रेरणा श्रृंखला को पढ़ता है इसलिए आस्क राइजहश एक सीमित व्यक्तिगत प्रश्न का उत्तर दे सकता है।

[6]

विफलता व्यवहार वास्तुकला का हिस्सा है

उपलब्धता बूलियन नहीं है. एक संगत डिवाइस में अभी भी Apple इंटेलिजेंस अक्षम हो सकता है, मॉडल संपत्तियां तैयार हो सकती हैं, या ऐसी भाषा हो सकती है जिसका सिस्टम मॉडल समर्थन नहीं करता है। रनटाइम जनरेशन भी मना कर सकता है, रेलिंग से टकरा सकता है, संदर्भ से आगे निकल सकता है, थ्रॉटल किया जा सकता है, समवर्ती अनुरोध का सामना करना पड़ सकता है, संरचित पार्सिंग विफल हो सकती है, या टाइम आउट हो सकता है।

राइजहश उन मामलों को सीमित उत्पाद व्यवहार के अनुसार मैप करता है। फ़ोरग्राउंड जेनरेशन का बजट 45 सेकंड, सिरी का 20 सेकंड और बैकग्राउंड पूल जेनरेशन का 120 सेकंड है। क्यूरेटेड लाइब्रेरी ईमानदार फ़ॉलबैक बनी हुई है; ऐप कभी भी प्लेसहोल्डर गद्य को संग्रहीत नहीं करता है जैसे कि कोई मॉडल सफल हुआ हो।

[2][3][7]

आविष्कृत परिणामों के बिना एक प्रतिलिपि प्रस्तुत करने योग्य प्रोटोकॉल

नीचे दिया गया प्रोटोकॉल स्रोत निरीक्षण को लाइव-डिवाइस प्रमाण से अलग करता है। रिकॉर्ड हार्डवेयर, OS बिल्ड, लोकेल, Apple इंटेलिजेंस स्थिति, मॉडल की तैयारी, त्वरित स्थिरता, बीता हुआ समय, टर्मिनल शाखा, अस्वीकृति का कारण और प्रत्येक रन के लिए दृढ़ता परिणाम। ऐप्पल के फाउंडेशन मॉडल इंस्ट्रूमेंट्स वास्तविक सत्र के दौरान प्रॉम्प्ट, टूल, टोकन और विलंबता व्यवहार को उजागर कर सकते हैं।

एक मशीन-पठनीय संस्करणफाउंडेशन मॉडल मूल्यांकन प्रोटोकॉल (JSON)के रूप में उपलब्ध है। इसमें मैट्रिक्स और फ़ील्ड अनुबंध शामिल हैं, मनगढ़ंत माप नहीं। जब एक वर्तमान भौतिक-डिवाइस रन स्वीकृत हो जाता है, तो इसकी अज्ञात पंक्तियों को जोड़ें और सटीक डिवाइस और ओएस के साथ समग्र स्वीकृति, टाइमआउट और विलंबता मान प्रकाशित करें।

1. समर्थित OS के साथ संगत हार्डवेयर का उपयोग करें। परीक्षण Apple इंटेलिजेंस सक्षम और तैयार, अक्षम और अभी भी डाउनलोड हो रहा है।
2. समर्थित लोकेल और असमर्थित लोकेल के साथ दोहराएँ; सत्यापित करें कि ऐप मॉडल समर्थन को सामान्य डिवाइस पात्रता से अलग करता है।
3. मॉडल संपत्ति तैयार होने के बाद, एयरप्लेन मोड में दोहराएं और पुष्टि करें कि राइजहश जेनरेशन एंडपॉइंट की आवश्यकता नहीं है।
4. इंटरफ़ेस के साथ इंटरैक्ट करते समय आंशिक पाठ का निरीक्षण करें; पुष्टि करें कि मॉडल टर्न के दौरान स्क्रॉलिंग और नियंत्रण प्रतिक्रियाशील बने रहें।
5. फ़ीड फिक्स्चर जो खाली, बहु-वाक्य, बहुत लंबे, उद्धरण चिह्नों में लिपटे हुए, गलत भाषा में, घिसे-पिटे या लगभग-डुप्लिकेट में हों; कोई भी सहेजी गई उत्पन्न पंक्तियाँ नहीं बननी चाहिए।
6. ट्रिगर जज अस्वीकृति और एक सीमित समयबाह्य; पुष्टि करें कि कोई अस्वीकृत ड्राफ्ट कायम नहीं है और क्यूरेटेड अनुभव उपलब्ध रहता है।
7. परीक्षण स्टोर में स्थानीय बचत विफलता को बाध्य करें; पुष्टि करें कि सम्मिलित मॉडल वापस रोल कर दिए गए हैं।
8. कम समय के बजट के साथ सिरी का प्रयोग करें और सत्यापित करें कि विजेट एक्सटेंशन में पीढ़ी शुरू करने के बजाय केवल निरंतर डेटा पढ़ते हैं।

[8]

यह वास्तुकला क्या सिद्ध नहीं करती

एक गुणवत्तापूर्ण पाइपलाइन विफलता को दृश्यमान बना सकती है और खराब दृढ़ता को कम कर सकती है। यह एक छोटे ऑन-डिवाइस भाषा मॉडल को ऐतिहासिक स्रोत में नहीं बदल सकता है, यह साबित नहीं कर सकता है कि कोई वाक्य कभी भी कहीं नहीं लिखा गया है, या स्वाद की गारंटी नहीं दे सकता है। इसलिए उत्पन्न पंक्तियों का श्रेय कभी भी ऐतिहासिक लेखकों को नहीं दिया जाता है और वे कभी भी सार्वजनिक-डोमेन कैटलॉग में प्रवेश नहीं करती हैं।

अनुवाद एक अलग चेतावनी का पात्र है। फाउंडेशन मॉडल द्वारा सीधे असमर्थित लोकेल के लिए, वैकल्पिक पथ पूरी तरह से एक अंग्रेजी ड्राफ्ट को गेट करता है और फिर ऐप्पल के ऑन-डिवाइस ट्रांसलेशन फ्रेमवर्क का उपयोग करता है जहां जोड़ी उपलब्ध है। अनुवादित परिणाम को एक गैर-रिक्त प्रतिक्रिया के लिए जांचा जाता है और नए मेटाडेटा के साथ जारी रखा जाता है, लेकिन यह वर्तमान में अनुवाद के बाद पूर्ण लक्ष्य-भाषा गेट, नवीनता और निर्णय अनुक्रम को दोहराता नहीं है। वह पथ एक फ़ॉलबैक है, समान प्रत्यक्ष-पीढ़ी की गुणवत्ता का प्रमाण नहीं।

मॉडल और ओएस अपडेट उपलब्धता, विलंबता, इनकार व्यवहार और आउटपुट वितरण को बदल सकते हैं। फाउंडेशन मॉडल में बदलाव होने पर ऐप्पल संकेतों और मूल्यांकन पर दोबारा गौर करने की सलाह देता है। इसलिए इस पृष्ठ को स्थायी बेंचमार्क प्रमाण के रूप में मानने के बजाय सामग्री प्लेटफ़ॉर्म अपडेट के बाद राइजहश के परीक्षण मैट्रिक्स को फिर से चलाया जाना चाहिए।

• सिस्टम मॉडल का उपयोग ऐतिहासिक उद्धरण तथ्यों या लेखक के आरोप के स्रोत के रूप में नहीं किया जाता है।
• संरचित आउटपुट और दूसरा मॉडल पास विफलता मोड को कम करता है; वे यह साबित नहीं करते कि कोई पंक्ति गहरी है, वैश्विक अर्थ में मौलिक है, या सभी के लिए उपयुक्त है।
• सिमेंटिक नवीनता परत तब गुजरती है जब इसकी बंधी हुई सूची खाली होती है या तुलनात्मक एम्बेडिंग अनुपलब्ध होती है; यह ज्ञात निकट-डुप्लिकेट को कम करता है लेकिन वैश्विक मौलिकता को प्रमाणित नहीं करता है।
• ऑफ़लाइन पीढ़ी संगत हार्डवेयर, सक्षम Apple इंटेलिजेंस, समर्थित भाषा व्यवहार और पहले से तैयार मॉडल संपत्तियों पर निर्भर करती है।
• वैकल्पिक सीखा हुआ कोर एमएल स्वाद फ़िल्टर अंग्रेजी, जर्मन, स्पेनिश, फ्रेंच, इतालवी और पुर्तगाली के लिए कैलिब्रेट किया गया है; अन्य स्थानों को अभी भी नियतात्मक और मॉडल-आधारित परतें प्राप्त होती हैं जो उनका समर्थन करती हैं।
• स्थानीय रूप से अनुवादित फ़ॉलबैक प्रत्यक्ष लक्ष्य-भाषा पीढ़ी के बराबर नहीं है: वर्तमान अनुवादित परिणाम अनुवाद के बाद प्रत्येक गुणवत्ता परत को दोहराता नहीं है।
• ओएस और मॉडल अपडेट विलंबता और आउटपुट वितरण को बदल सकते हैं, इसलिए सामग्री प्लेटफ़ॉर्म में बदलाव के बाद डिवाइस मैट्रिक्स को फिर से चलाना होगा।
• यह पृष्ठ वर्तमान वास्तुकला का वर्णन करता है, यह कोई वादा नहीं है कि प्रत्येक प्लेटफ़ॉर्म सतह फाउंडेशन मॉडल चलाती है। विजेट जानबूझकर निरंतर परिणामों का उपभोग करते हैं।

[3][9][11]