Foundation Models framework
Model bahasa canggih untuk perangkat dan server, mendukung 15 bahasa.
Apple memperbarui model bahasa dasar (foundation models) untuk perangkat dan server, meningkatkan kecepatan, efisiensi, dan kemampuan pemahaman gambar serta teks dalam 15 bahasa. Model yang ringkas dan model server berbasis campuran pakar (MoE) menawarkan solusi yang komprehensif.
Lebih banyak tentang Foundation Models framework
Foundation Models framework
Apple Intelligence mengintegrasikan AI generatif yang canggih ke dalam aplikasi dan pengalaman yang digunakan setiap hari, sambil melindungi privasi pengguna. Fitur ini didukung oleh model bahasa dasar generasi baru yang meningkatkan berbagai fitur cerdas di seluruh platform Apple. Model ini dioptimalkan untuk efisiensi dan kecepatan, baik di perangkat maupun di server.
- •Kemampuan Alat dan Penalaran yang Ditingkatkan:Model ini telah ditingkatkan untuk penggunaan alat dan kemampuan penalaran yang lebih baik, memahami input gambar dan teks, lebih cepat dan efisien, serta mendukung 15 bahasa.
- •Model On-Device yang Ringkas:Model yang ringkas, sekitar 3 miliar parameter, dioptimalkan untuk berjalan efisien di Apple silicon.
- •Model Server yang Skalabel:Arsitektur baru yang dirancang untuk Private Cloud Compute, memungkinkan akurasi dan skalabilitas tinggi untuk tugas yang lebih kompleks.
- •Arsitektur Perhatian yang Dianyam:Arsitektur perhatian yang dianyam menggabungkan lapisan perhatian lokal dengan embedding posisi rotasi dan lapisan perhatian global, meningkatkan generalisasi panjang, mengurangi ukuran cache KV, dan menjaga kualitas model selama inferensi konteks panjang.
- •Pengode Visual:Pengode visual yang dilatih pada data gambar skala besar, terdiri dari tulang punggung penglihatan untuk mengekstrak fitur yang kaya dan adaptor penglihatan-bahasa untuk menyelaraskan fitur dengan representasi token LLM.
- •Data Pelatihan Berkualitas Tinggi:Dilatih menggunakan data berkualitas tinggi dan beragam, termasuk data yang dilisensikan dari penerbit, data yang dikurasi dari kumpulan data yang tersedia untuk umum atau sumber terbuka, dan informasi yang tersedia untuk umum yang di-crawl oleh Applebot.
- •Penyaringan Data yang Disempurnakan:Proses penyaringan data yang disempurnakan mengurangi ketergantungan pada aturan heuristik yang terlalu agresif dan menggabungkan teknik penyaringan berbasis model, menghasilkan kumpulan data pelatihan yang lebih besar dan berkualitas lebih tinggi.
- •Resep Pelatihan yang Berevolusi:Resep pelatihan yang telah berevolusi untuk meningkatkan kemampuan Apple Intelligence agar mendukung lebih banyak bahasa dan berbagai fitur, termasuk yang memerlukan pemahaman gambar.
- •Optimasi Kompresi Model:Model on-device dikompresi menjadi 2 bit per bobot (bpw) menggunakan Quantization-Aware-Training (QAT), sedangkan model server dikompresi menggunakan metode kompresi tekstur berbasis blok yang dikenal sebagai Adaptive Scalable Texture Compression (ASTC).
- •Kerangka Kerja Foundation Models:Kerangka kerja Foundation Models memberikan akses kepada pengembang untuk membuat fitur AI generatif yang andal dan berkualitas produksi dengan model bahasa on-device ~3B parameter.
- •Guided Generation:Pendekatan Swift yang intuitif untuk decoding yang dibatasi yang disebut guided generation, memungkinkan pengembang untuk bekerja langsung dengan struktur data Swift yang kaya.
- •Panggilan Alat:Panggilan alat memungkinkan pengembang untuk menyesuaikan kemampuan model ~3B dengan membuat alat yang menyediakan model dengan sumber informasi atau layanan tertentu.
- •Evaluasi Kualitas yang Komprehensif:Evaluasi kualitas model on-device dan server dilakukan secara offline menggunakan penilai manusia, mencakup kemampuan bahasa dan penalaran dasar, termasuk penalaran analitis, brainstorming, percakapan, klasifikasi, dan lain-lain.
- •Evaluasi Keamanan yang Teliti:Evaluasi keamanan Apple Intelligence dilakukan baik pada model dasar maupun setiap fitur yang menggunakan model sebelum penyebaran, menggabungkan evaluasi manusia internal dan eksternal dengan penilaian otomatis.
Dengan Apple Intelligence, Anda dapat meningkatkan alur kerja dan menyelesaikan masalah dengan lebih efisien. Model bahasa dasar yang canggih ini menawarkan berbagai fitur bermanfaat yang terintegrasi di seluruh platform perangkat lunak Apple, tersedia untuk pengguna di seluruh dunia dalam berbagai bahasa. Keunggulannya terletak pada kecepatan, efisiensi, dan komitmen terhadap privasi serta prinsip AI yang bertanggung jawab. Dengan memilih Apple Intelligence, Anda berinvestasi dalam solusi yang andal, aman, dan berorientasi pada masa depan.
