
بروزرسانی: 17 تیر 1404
چگونه مدل هوش مصنوعی خود را به دستگاه های اندرویدی بیاوریم

در طول هفته هوش مصنوعی در Android S،light، در حال بررسی این موضوع هستیم که چگونه می تو،د مدل هوش مصنوعی خود را به دستگاه های مجهز به اندروید مانند تلفن ها، تبلت ها و موارد دیگر بیاورید. با استفاده از ابزارها و فناوری های موجود از Google و منابع دیگر، می تو،د مدل های پیشرفته هوش مصنوعی را مستقیماً روی این دستگاه ها اجرا کنید و فرصت های هیجان انگیزی را برای عملکرد، حفظ حریم خصوصی و قابلیت استفاده بهتر ایجاد کنید.
درک هوش مصنوعی روی دستگاه
هوش مصنوعی روی دستگاه شامل استقرار و اجرای یادگیری ماشین یا مدل های هوش مصنوعی مولد به جای تکیه بر سرورهای مبتنی بر ابر، مستقیماً بر روی دستگاه های سخت افزاری است. این رویکرد چندین مزیت از جمله کاهش تاخیر، افزایش حریم خصوصی، صرفه جویی در هزینه و وابستگی کمتر به اتصال به اینترنت را ارائه می دهد.
برای موارد استفاده از متن تولیدی، کاوش کنید جمینی نانو که اکنون از طریق آن به صورت آزمایشی در دسترس است SDK. برای بسیاری از موارد استفاده از هوش مصنوعی روی دستگاه، ممکن است بخواهید مدل های خود را در برنامه خود بسته بندی کنید. امروز به نحوه انجام این کار در اندروید خواهیم پرداخت.
منابع کلیدی برای هوش مصنوعی روی دستگاه
را Google AI Edge پلتفرم یک ا،یستم جامع برای ساخت و استقرار مدل های هوش مصنوعی در دستگاه های لبه ارائه می دهد. از چارچوب ها و ابزارهای مختلفی پشتیب، می کند و به توسعه دهندگان این امکان را می دهد تا قابلیت های هوش مصنوعی را به طور یکپارچه در برنامه های خود ادغام کنند. پلتفرم های Google AI Edge شامل موارد زیر است:
- وظایف MediaPipe - APIهای کم کد بین پلتفرمی برای مق، با وظایف متداول هوش مصنوعی، بینایی، متن و صوتی.
- LiteRT (که قبلا به ،وان TensorFlow Lite شناخته می شد) - زمان اجرا سبک برای استقرار مدل های یادگیری ماشین سفارشی در Android
- چارچوب MediaPipe - چارچوب خط لوله برای زنجیر ، چندین مدل ML به همراه منطق پردازش قبل و بعد

نحوه ساخت ویژگی های AI سفارشی در اندروید
1. مورد استفاده خود را تعریف کنید: قبل از فرو رفتن در جزئیات فنی، بسیار مهم است که به وضوح مشخص کنید که می خواهید ویژگی هوش مصنوعی شما به چه چیزی برسد. چه هدف شما طبقه بندی تصویر باشد، چه پردازش زبان طبیعی یا یک برنامه کاربردی دیگر، داشتن یک هدف کاملاً تعریف شده روند توسعه شما را هدایت می کند.
2. ابزارها و چارچوب های من، را انتخاب کنید: بسته به مورد استفاده شما، ممکن است بتو،د از یک راه حل خارج از جعبه استفاده کنید یا ممکن است نیاز به ایجاد یا منبع مدل خود داشته باشید. نگاه کنید وظایف MediaPipe برای راه حل های رایج مانند تشخیص ژست، ت،یم بندی تصویر یا تشخیص نقطه عطف چهره. اگر راه حلی پیدا کردید که با نیازهای شما مطابقت دارد، می تو،د مستقیماً به مرحله آزمایش و استقرار بروید.

اگر نیاز به ایجاد یا منبع یک مدل سفارشی برای مورد استفاده خود دارید، به یک چارچوب ML روی دستگاه مانند LiteRT (قبلاً TensorFlow Lite). LiteRT به طور خاص برای دستگاه های تلفن همراه و لبه طراحی شده است و زمان اجرای سبکی را برای استقرار مدل های یادگیری ماشین فراهم می کند. به سادگی این مراحل فرعی را دنبال کنید:
الف مدل خود را توسعه دهید و آموزش دهید: مدل هوش مصنوعی خود را با استفاده از چارچوب انتخابی خود توسعه دهید. آموزش را می توان بر روی یک ماشین قدرتمند یا محیط ابری انجام داد، اما مدل باید برای استقرار در یک دستگاه بهینه شود. تکنیک هایی مانند کوانتیزاسیون و هرس می تواند به کاهش اندازه مدل و بهبود سرعت استنتاج کمک کند. کاوشگر مدل می تواند به درک و کشف مدل شما در حین کار با آن کمک کند.
ب تبدیل و بهینه سازی مدل: هنگامی که مدل شما آموزش داده شد، آن را به فرمتی من، برای استقرار روی دستگاه تبدیل کنید. برای مثال LiteRT نیاز به تبدیل به فرمت خاص خود دارد. ابزارهای بهینه سازی می توانند به کاهش ردپای مدل و افزایش عملکرد کمک کنند. مشعل لبه هوش مصنوعی به شما این امکان را می دهد تا با استفاده از کتابخانه های Google AI Edge LiteRT و MediaPipe Tasks، مدل های PyTorch را به صورت محلی روی اندروید و سایر پلتفرم ها اجرا کنید.
ج مدل خود را تسریع کنید: شما می تو،د با استفاده از GPU و NPU سرعت استنباط مدل را در اندروید افزایش دهید. LiteRT نماینده GPU به شما اجازه می دهد تا امروز مدل خود را روی GPU اجرا کنید. ما سخت در حال کار بر روی ساخت نسل بعدی نمایندگان GPU و NPU هستیم که باعث می شود مدل های شما حتی سریع تر اجرا شوند و مدل های بیشتری روی GPU و NPU اجرا شوند. ما دوست داریم از شما دعوت می کنیم تا در برنامه دسترسی زودهنگام ما شرکت کنید برای آزمایش این زیرساخت جدید GPU و NPU. ما شرکت کنندگان را به صورت دوره ای انتخاب می کنیم، بنابراین منتظر تماس نباشید.
3. تست و استقرار: برای اطمینان از اینکه مدل شما عملکرد مورد انتظار را در دستگاه های مختلف ارائه می دهد، آزمایش دقیق بسیار مهم است. پس از اتمام مرحله آزمایش، اپلیکیشن خود را برای کاربران مستقر کنید و تجربه هوش مصنوعی یکپارچه و کارآمد را به آنها ارائه دهید. ما در حال کار بر روی آوردن مزایای Google Play و Android App Bundles برای ارائه مدل های سفارشی ML برای ویژگی های هوش مصنوعی روی دستگاه هستیم. برای هوش مصنوعی روی دستگاه بازی کنید پیچیدگی راه اندازی، هدف گذاری، نسخه سازی، دانلود و به روزرس، مدل های روی دستگاه را از بین می برد تا بتو،د بدون به خطر انداختن اندازه برنامه و بدون هزینه اضافی، تجربه کاربری بهتری را به کاربران خود ارائه دهید. این فرم را تکمیل کنید برای ابراز علاقه برای پیوستن به برنامه دسترسی زودهنگام هوش مصنوعی Play for On-Device.
از طریق حفظ حریم خصوصی و شفافیت به هوش مصنوعی اعتماد کنید
با نقش رو به رشد هوش مصنوعی در زندگی روزمره، اطمینان از اجرای مدل ها همانطور که در نظر گرفته شده روی دستگاه ها بسیار مهم است. ما بر رویکرد "اعتماد صفر" تاکید می کنیم و ابزارهایی را برای توسعه دهندگان برای تأیید یکپارچگی دستگاه و کنترل کاربر بر داده های آنها ارائه می دهیم. در رویکرد اعتماد صفر، توسعه دهندگان به توانایی تصمیم گیری آگاهانه در مورد قابلیت اعتماد دستگاه نیاز دارند.
را Play Integrity API برای توسعه دهندگ، که به دنبال تأیید برنامه، درخواست های سرور و محیط دستگاه خود هستند (و به زودی، به روز رس، های امنیتی اخیر در دستگاه) توصیه می شود. می تو،د در لحظات مهمی قبل از اینکه بخش برنامه تان تصمیم به دانلود و اجرای مدل های شما بگیرد، با API تماس بگیرید. شما همچنین می تو،د روشن ، را در نظر بگیرید بررسی یکپارچگی برای نصب برنامه شما برای کاهش توزیع برنامه خود به محیط های ناشناخته و غیر قابل اعتماد.
Play Integrity API از گواهی کلید پلتفرم اندروید برای تأیید اجزای سخت افزاری و تولید احکام یکپارچگی در سراسر ناوگان، که نیاز بیشتر توسعه دهندگان را به ادغام مستقیم ابزارهای مختلف تأیید و کاهش پیچیدگی ا،یستم دستگاه را از بین می برد. توسعه دهندگان می توانند قبل از تصمیم گیری در مورد اعتماد به دستگاه برای اجرای مدل های هوش مصنوعی از یکی یا هر دوی این ابزارها برای ارزیابی امنیت دستگاه و یکپارچگی نرم افزار استفاده کنند.
نتیجه گیری
آوردن مدل هوش مصنوعی خود به یک دستگاه شامل چندین مرحله است، از تعریف مورد استفاده تا استقرار و آزمایش مدل. با استفاده از منابعی مانند Google AI Edge، توسعه دهندگان به ابزارها و بینش های قدرتمند دسترسی دارند تا این فرآیند را روان تر و مؤثرتر کنند. همانطور که هوش مصنوعی روی دستگاه به تکامل خود ادامه می دهد، استفاده از این منابع به شما امکان می دهد برنامه های کاربردی پیشرفته ای ایجاد کنید که عملکرد، حریم خصوصی و تجربه کاربری بهبود یافته ای را ارائه می دهند. ما در حال حاضر به دنبال شرکای دسترسی زودهنگام هستیم تا برخی از آ،ین ابزارها و API های خود را در Google AI Edge امتحان کنیم. به سادگی برای اتصال این فرم را پر کنید و بررسی کنید که چگونه می تو،م با هم کار کنیم تا دیدگاه شما را به واقعیت تبدیل کنیم.
در این منابع غوطه ور شوید و شروع به کاوش در پتانسیل هوش مصنوعی روی دستگاه کنید - نوآوری بزرگ بعدی شما می تواند فقط یک مدل باشد!
از هشتگ #AndroidAI برای به اشتراک گذاشتن بازخورد خود یا آنچه در رسانه های اجتماعی ساخته اید استفاده کنید و با بقیه به روزرس، هایی که در هفته S،light به اشتراک گذاشته می شود: هوش مصنوعی در Android، آشنا شوید.
منبع: http://android-developers.googleblog.com/2024/10/bring-your-ai-model-to-android-devices.html