Từ @Generable đến SwiftData: quy trình báo giá chất lượng trên thiết bị

Ràng buộc không phải là “bắt người mẫu viết trích dẫn”

Một dấu nhắc duy nhất có thể tạo ra một câu. Nó không thể xác định xem mô hình hệ thống đã sẵn sàng hay chưa, giữ cho giao diện phản hồi nhanh, phân biệt dòng được tạo với trích dẫn lịch sử, ngăn dòng gần trùng lặp vào thư viện hoặc để sản phẩm hữu ích khi suy luận không thành công. Những quyết định xung quanh là tính năng.

RiseHush không có phần phụ trợ suy luận. Trên các thiết bị Apple Intelligence được hỗ trợ, ứng dụng sẽ gửi lời nhắc giới hạn tới mô hình ngôn ngữ hệ thống trên thiết bị của Apple và lưu trữ kết quả được chấp nhận trong SwiftData cục bộ. Trang thông tin về sản phẩm giải thích những gì một người nhìn thấy; bài viết này ghi lại đường dẫn thực hiện và các giới hạn của nó. API khả dụng của riêng Apple vẫn có thẩm quyền quyết định liệu mô hình này có thể chạy ngay bây giờ hay không.

“Có thể tái tạo” ở đây có nghĩa là một kỹ sư khác có thể lặp lại ma trận sẵn sàng, lịch trình loại bỏ, đường dẫn hết thời gian chờ và kiểm tra tính bền vững. Điều đó không có nghĩa là một mô hình ngôn ngữ không xác định sẽ trả về cùng một bit văn xuôi. Trang này báo cáo kiến ​​trúc nguồn đã được kiểm tra, không phải số liệu chất lượng thiết bị vật lý mới; không có kết quả điểm chuẩn nào được suy ra từ tập lệnh kiểm tra.

• Suy luận:Mô hình ngôn ngữ hệ thống của Apple, trên thiết bị.
• Hợp đồng đầu ra:Một loại Swift được hướng dẫn, sau đó xác thực xác định.
• Bộ lưu trữ:Các hàng SwiftData cục bộ được đánh dấu là đã tạo.
• Đường dẫn mạng:Không có máy chủ thế hệ RiseHush hoặc mô hình của bên thứ ba.

[1][2]

Từ lời nhắc đến thư viện: đường dẫn sản xuất

Đây là kiến trúc đằng sau trình tạo báo giá trên thiết bị của RiseHush như đã được kiểm tra trong nguồn ứng dụng hiện tại. Nó ghi lại các cổng, đường dẫn lỗi và kiểm tra mà nhà phát triển có thể tái tạo; nó không phải là một tiêu chuẩn mẫu hay một tuyên bố rằng mọi bản nháp đều tốt.

Việc ra lệnh là có chủ ý. Những cuộc kiểm tra rẻ tiền, có thể giải thích được sẽ được tiến hành trước khi có nhiều suy luận hơn; không có thao tác ghi nào xảy ra cho đến khi mọi cổng yêu cầu đã chấp nhận ứng viên. Câu trả lời được truyền trực tiếp là văn bản giao diện tạm thời, không phải là trích dẫn đã lưu.

1. 01

   Chứng minh sự sẵn sàng

   Dịch vụ kiểm tra tính khả dụng của mô hình hệ thống và ngôn ngữ được yêu cầu trước khi tạo phiên. Tính đủ điều kiện của thiết bị, trạng thái Apple Intelligence, tính sẵn sàng của nội dung mô hình và hỗ trợ ngôn ngữ là những kết quả riêng biệt.

2. 02

   Hạn chế dự thảo

   Loại @Generable Swift yêu cầu một câu gốc, thường là 10–16 từ và không bao giờ nhiều hơn 18, không có ghi công, đánh dấu, hashtag, biểu tượng cảm xúc hoặc gói dấu ngoặc kép.

3. 03

   Truyền phát diễn viên chính

   Một Ngôn ngữModelSession mới được chuẩn bị sẵn cho yêu cầu. Ảnh chụp nhanh có cấu trúc một phần có thể cập nhật giao diện trong khi vòng lặp Mô hình nền tảng vẫn không có tác nhân chính.

4. 04

   Từ chối những thất bại rõ ràng

   Trước bất kỳ hoạt động đánh giá dựa trên mô hình nào, một cổng xác định sẽ kiểm tra giới hạn câu và từ, thỏa thuận ngôn ngữ, các đoạn bị cấm, ngắt câu và các mẫu sáo rỗng đa ngôn ngữ.

5. 05

   Kiểm tra tính mới và chất lượng

   Khi có sẵn các phần nhúng so sánh, những người sống sót phải đối mặt với một kiểm tra gần như trùng lặp về ngữ nghĩa, sau đó là một đánh giá có hướng dẫn riêng và điểm khác biệt. Bản nháp được phát trực tuyến bỏ lỡ ngưỡng bắt buộc sẽ bị loại bỏ thay vì tồn tại trong âm thầm.

6. 06

   Kiên trì với người sống sót

   Siêu dữ liệu được tính toán từ tác nhân chính. Tính năng chèn SwiftData sẽ trả về tác nhân chính, gắn nhãn dòng là được tạo chứ không phải miền công cộng và khôi phục các phần chèn tạm thời nếu lưu không thành công.

7. 07

   Tái sử dụng trạng thái cục bộ

   Các bề mặt ứng dụng và hệ thống sử dụng báo giá được lưu trữ. Widget đọc dữ liệu liên tục; chúng không đánh thức mô hình ngôn ngữ bên trong dòng thời gian mở rộng.

[2][3][4][5]

Đầu ra có hướng dẫn thu hẹp hình dạng; mã vẫn sở hữu chính sách

Bản nháp là loại Swift được đánh dấu@Generable. Hướng dẫn của nó yêu cầu một câu gốc, thường là 10–16 từ với dấu nhắc cứng tối đa là 18 và cấm ghi công, gói dấu ngoặc kép, thẻ bắt đầu bằng #, biểu tượng cảm xúc, đánh dấu và ngắt dòng. Các tùy chọn sản xuất sử dụng nhiệt độ 0,7 và mức trần 40 mã thông báo: đủ chỗ cho phần bao bọc có cấu trúc và câu ngắn mà không cần mời đầu ra có độ dài đoạn văn.

Điều này không làm cho việc xác thực trở thành tùy chọn. Apple mô tả việc tạo có hướng dẫn là một cách để tạo ra dữ liệu Swift có cấu trúc chứ không phải đảm bảo rằng nội dung đáp ứng mọi quy tắc của sản phẩm. Do đó, RiseHush coi giá trị đã nhập của mô hình là bản nháp không đáng tin cậy. Bản phác thảo tóm tắt bên dưới giữ nguyên thứ tự và ngưỡng sản xuất trong khi bỏ qua chi tiết nhắc nhở và duy trì dành riêng cho ứng dụng.

@Generable
private struct GeneratedQuoteDraft {
    @Guide(description: "One original sentence; 10–16 words; no attribution")
    var text: String
}

guard availability(locale: locale) == .available else {
    throw GenerationError.unavailable
}

let stream = session.streamResponse(
    to: prompt,
    generating: GeneratedQuoteDraft.self,
    options: generationOptions
)

for try await snapshot in stream {
    yield(snapshot.content.text)          // interface update
}

guard deterministicGate.passes(text, locale: locale),
      await noveltyGate.isNearDuplicate(text) == false,
      await judge.score(text).overall >= 6,
      distinctiveness.score(text).overall >= 5
else {
    throw GenerationError.noCandidate
}

return try persistAsGeneratedQuote(text)

[4][5]

Tại sao vượt qua lần thứ hai vẫn chưa đủ

Lớp từ chối đầu tiên mang tính quyết định: đầu ra trống, phần dư lời nhắc bị cấm, gói trích dẫn, giới hạn từ và câu, bất đồng về ngôn ngữ và các nội dung sáo rỗng đa ngôn ngữ. Bộ lọc hương vị Core ML cục bộ có thể thêm tín hiệu đã học cho tiếng Anh, tiếng Đức, tiếng Tây Ban Nha, tiếng Pháp, tiếng Ý và tiếng Bồ Đào Nha; nó được cố tình bỏ qua thay vì áp dụng sai bên ngoài các địa phương đã được hiệu chỉnh đó.

Tiếp theo, khi có sẵn các phần nhúng so sánh, một cổng mới về ngữ nghĩa sẽ so sánh ứng viên với một danh mục cục bộ bị chặn và loại bỏ các mục gần trùng lặp ở ngưỡng tương tự cosine là 0,90. Nếu danh mục trống hoặc không thể tạo được phần nhúng thì lớp đó sẽ được chuyển qua thay vì khẳng định tính mới đã được chứng minh. Sau đó, một phiên Mô hình nền tảng mới sẽ chấm điểm chất lượng tổng thể, tính độc đáo và sự ấm áp. Thẩm phán đó là một phiên họp riêng biệt sử dụng cùng một mô hình hệ thống—không phải mô hình độc lập và không phải đánh giá của con người. Nếu nó không có sẵn, bị từ chối hoặc không thể tạo ra kết quả có cấu trúc, thì điểm xác định sẽ cung cấp một giá trị dự phòng có giới hạn.

Cuối cùng, điểm khác biệt khen thưởng hình ảnh cụ thể, hành động, đặc điểm cảm xúc và tác nhân trong khi trừng phạt các công thức và các neo tiêu cực gần đây. Hiện tại, việc chấp nhận yêu cầu điểm đánh giá ít nhất là 6 và mức độ khác biệt ít nhất là 5. Đây là ngưỡng sản phẩm chứ không phải bằng chứng về tính độc đáo hoặc an toàn toàn cầu.

[7]

Giữ người mẫu quay lưng lại với diễn viên chính

Dịch vụ công cộng trả về các đối tượng mô hình SwiftData, do đó, các điểm vào của nó vẫn bị ràng buộc bởi tác nhân chính. Vòng phản hồi Mô hình Nền tảng đắt tiền thì không. Mỗi yêu cầu sở hữu mộtLanguageModelSessionmới; tính toán phát trực tuyến và siêu dữ liệu chạy khỏi tác nhân chính, với những bước nhảy nhỏ rõ ràng cho các tín hiệu nhắc nhở và tính liên tục của tác nhân.

Truyền trực tuyến mang lại các ảnh chụp nhanh có cấu trúc một phần cho giao diện, sau đó chuyển văn bản cuối cùng qua cùng một cổng, các thanh mới lạ, đánh giá và tính khác biệt như đường dẫn nhóm. Một luồng hoàn chỉnh sẽ vượt qua các tác nhân bằng mã định danh liên tục thay vì di chuyển mô hình SwiftData không thể gửi được. Người gọi giải quyết mã định danh đó trên diễn viên của chính nó.

Chỉ văn bản được chấp nhận mới được chèn vào. Bản ghi có tên RiseHush, được đánh dấu là nguồn= .generatedvàisPublicDomain = false, được gắn thẻ bằng ngôn ngữ của nó và được bổ sung thêm siêu dữ liệu được tính toán cục bộ. Nếu việc lưu không thành công, các phần chèn tạm thời sẽ bị xóa trước khi lỗi quay trở lại.

[5][10]

Tiếp đất cho nhân viên hướng dẫn bằng ba công cụ chỉ đọc

Ask RiseHush không được phép phát minh ra trạng thái thư viện của một người. API gọi công cụ của Apple cho phép phiên yêu cầu thu hẹp các chức năng của ứng dụng và kết hợp dữ liệu được trả về của chúng. Ứng dụng hiển thị ba công cụ giới hạn, chỉ đọc; không ai đến được máy chủ RiseHush.

Đối số công cụ và kích thước đầu ra bị hạn chế. Tra cứu báo giá đã lưu trả về tối đa tám kết quả, tìm kiếm danh mục nhiều nhất là năm kết quả và tổng sản lượng công cụ bị giới hạn. Công cụ báo giá đã lưu có thể trả về các mục phù hợp gần đây, nhưng nó không chấp nhận phạm vi lịch—vì vậy sản phẩm không được hứa hẹn rằng mô hình có thể trả lời "tuần trước tôi đã lưu những gì?"

• Tìm kiếm báo giá danh mục

  Tìm kiếm danh mục trích dẫn được đóng gói theo tâm trạng, danh mục hoặc chủ đề. Nó không yêu cầu mô hình phát minh ra một nguồn.

• Tra cứu báo giá đã lưu

  Tra cứu các trích dẫn đã lưu và yêu thích của chính người đó trong bộ nhớ cục bộ.

• Trạng thái vệt

  Đọc chuỗi cảm hứng địa phương để Ask RiseHush có thể trả lời một câu hỏi cá nhân có giới hạn.

[6]

Hành vi lỗi là một phần của kiến trúc

Tính khả dụng không phải là Boolean. Một thiết bị tương thích có thể vẫn bị tắt Apple Intelligence, nội dung mô hình đang chuẩn bị hoặc ngôn ngữ mà mô hình hệ thống không hỗ trợ. Việc tạo thời gian chạy cũng có thể từ chối, chạm vào rào chắn, vượt quá ngữ cảnh, bị điều tiết, gặp phải yêu cầu đồng thời, phân tích cú pháp có cấu trúc không thành công hoặc hết thời gian chờ.

RiseHush ánh xạ những trường hợp đó vào hành vi sản phẩm hữu hạn. Thế hệ tiền cảnh có ngân sách 45 giây, Siri 20 giây và tạo nhóm nền 120 giây. Thư viện được quản lý vẫn là dự phòng trung thực; ứng dụng không bao giờ lưu trữ văn xuôi giữ chỗ như thể một mô hình đã thành công.

[2][3][7]

Một giao thức có thể tái tạo, không có kết quả được phát minh

Giao thức bên dưới tách biệt việc kiểm tra nguồn khỏi bằng chứng thiết bị trực tiếp. Ghi lại phần cứng, bản dựng hệ điều hành, ngôn ngữ, trạng thái Apple Intelligence, mức độ sẵn sàng của mô hình, lịch thi đấu nhanh chóng, thời gian đã trôi qua, nhánh thiết bị đầu cuối, lý do từ chối và kết quả duy trì cho mỗi lần chạy. Công cụ mô hình nền tảng của Apple có thể hiển thị hành vi nhắc nhở, công cụ, mã thông báo và độ trễ trong một phiên thực.

Phiên bản máy có thể đọc được có sẵn dưới dạng giao thức đánh giá Mô hình nền tảng(JSON). Nó chứa ma trận và hợp đồng trường, không phải các phép đo bịa đặt. Khi quá trình chạy thiết bị vật lý hiện tại được phê duyệt, hãy nối thêm các hàng ẩn danh của nó và xuất bản các giá trị chấp nhận, thời gian chờ và độ trễ tổng hợp với thiết bị và hệ điều hành chính xác.

1. Sử dụng phần cứng tương thích với hệ điều hành được hỗ trợ. Kiểm tra Apple Intelligence đã bật và sẵn sàng, đã tắt và vẫn đang tải xuống.
2. Lặp lại với ngôn ngữ được hỗ trợ và ngôn ngữ không được hỗ trợ; xác minh rằng ứng dụng phân biệt hỗ trợ kiểu máy với khả năng đủ điều kiện chung của thiết bị.
3. Sau khi nội dung mô hình đã sẵn sàng, hãy lặp lại ở Chế độ trên máy bay và xác nhận rằng không yêu cầu điểm cuối tạo RiseHush.
4. Quan sát một phần văn bản trong khi tương tác với giao diện; xác nhận rằng thao tác cuộn và điều khiển vẫn phản hồi trong khi xoay mô hình.
5. Nội dung nguồn cấp dữ liệu trống, nhiều câu, quá dài, được gói trong dấu ngoặc kép, sai ngôn ngữ, sáo rỗng hoặc gần như trùng lặp; không có hàng nào sẽ trở thành hàng được tạo đã lưu.
6. Kích hoạt sự từ chối của thẩm phán và thời gian chờ hữu hạn; xác nhận rằng không có bản nháp bị từ chối nào được duy trì và trải nghiệm được tuyển chọn vẫn có sẵn.
7. Buộc lưu cục bộ không thành công trong cửa hàng thử nghiệm; xác nhận rằng các mô hình được chèn đã được khôi phục.
8. Sử dụng Siri với quỹ thời gian ngắn hơn và xác minh rằng các tiện ích chỉ đọc dữ liệu cố định thay vì bắt đầu tạo trong tiện ích mở rộng.

[8]

Kiến trúc này không chứng minh được điều gì

Một quy trình chất lượng có thể làm cho thất bại trở nên rõ ràng và giảm bớt sự tồn tại xấu. Nó không thể biến một mô hình ngôn ngữ nhỏ trên thiết bị thành một nguồn lịch sử, chứng minh rằng một câu chưa từng được viết ở đâu hoặc đảm bảo hương vị. Do đó, các dòng được tạo không bao giờ được quy cho các tác giả lịch sử và không bao giờ được đưa vào danh mục phạm vi công cộng.

Bản dịch xứng đáng có một cảnh báo riêng. Đối với một ngôn ngữ không được Foundation Models hỗ trợ trực tiếp, đường dẫn tùy chọn sẽ chuyển hoàn toàn sang bản nháp tiếng Anh và sau đó sử dụng khung Dịch thuật trên thiết bị của Apple nơi cặp này có sẵn. Kết quả đã dịch được kiểm tra để tìm phản hồi không trống và duy trì với siêu dữ liệu mới, nhưng hiện tại nó không lặp lại đầy đủ cổng ngôn ngữ đích, tính mới và trình tự đánh giá sau khi dịch. Con đường đó là một phương án dự phòng, không phải là bằng chứng về chất lượng tạo trực tiếp tương đương.

Các bản cập nhật mô hình và hệ điều hành có thể thay đổi tính khả dụng, độ trễ, hành vi từ chối và phân phối đầu ra. Apple khuyên bạn nên xem lại lời nhắc và đánh giá khi Mô hình nền tảng thay đổi. Do đó, ma trận thử nghiệm của RiseHush phải được chạy lại sau khi cập nhật nền tảng vật chất thay vì coi trang này là bằng chứng điểm chuẩn vĩnh viễn.

• Mô hình hệ thống không được sử dụng làm nguồn trích dẫn sự kiện lịch sử hoặc ghi nhận tác giả.
• Đầu ra có cấu trúc và vượt qua mô hình thứ hai giúp giảm các chế độ lỗi; chúng không chứng minh rằng một dòng là sâu sắc, độc đáo theo nghĩa toàn cầu hoặc phù hợp với tất cả mọi người.
• Lớp mới về ngữ nghĩa sẽ đi qua khi danh mục giới hạn của nó trống hoặc không có phần nhúng so sánh; nó làm giảm các sản phẩm gần như trùng lặp đã biết nhưng không chứng nhận tính nguyên gốc toàn cầu.
• Việc tạo ngoại tuyến phụ thuộc vào phần cứng tương thích, Apple Intelligence đã bật, hành vi ngôn ngữ được hỗ trợ và nội dung mô hình đã sẵn sàng.
• Bộ lọc hương vị Core ML đã học tùy chọn được hiệu chỉnh cho tiếng Anh, tiếng Đức, tiếng Tây Ban Nha, tiếng Pháp, tiếng Ý và tiếng Bồ Đào Nha; các ngôn ngữ khác vẫn nhận được các lớp dựa trên mô hình và xác định hỗ trợ chúng.
• Bản dịch dự phòng được dịch cục bộ không tương đương với việc tạo ngôn ngữ đích trực tiếp: kết quả được dịch hiện tại không lặp lại mọi lớp chất lượng sau khi dịch.
• Các bản cập nhật hệ điều hành và mô hình có thể thay đổi độ trễ và phân phối đầu ra, do đó, ma trận thiết bị phải được chạy lại sau khi thay đổi nền tảng vật liệu.
• Trang này mô tả kiến trúc hiện tại, không phải lời hứa rằng mọi bề mặt nền tảng đều chạy Mô hình nền tảng. Các widget cố tình tiêu thụ các kết quả được duy trì.

[3][9][11]