Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
تقنية وتكنولوجيا

نماذج الطاقة الشمسية من Upstage متاحة الآن في Amazon SageMaker JumpStart


تمت كتابة منشور المدونة هذا بالاشتراك مع Hwalsuk Lee في Upstage.

اليوم، يسعدنا أن نعلن أن نموذج الأساس الشمسي الذي طورته Upstage متاح الآن للعملاء الذين يستخدمون Amazon SageMaker JumpStart. Solar عبارة عن نموذج لغة كبير (LLM) تم تدريبه مسبقًا بنسبة 100% باستخدام Amazon SageMaker الذي يتفوق في الأداء ويستخدم حجمه الصغير وسجلات المسار القوية للتخصص في التدريب على الأغراض، مما يجعله متعدد الاستخدامات عبر اللغات والمجالات والمهام.

يمكنك الآن استخدام نماذج Solar Mini Chat وSolar Mini Chat – Quant المدربة مسبقًا داخل SageMaker JumpStart. SageMaker JumpStart هو مركز التعلم الآلي (ML) الخاص بـ SageMaker والذي يوفر الوصول إلى النماذج الأساسية بالإضافة إلى الخوارزميات المضمنة لمساعدتك على البدء بسرعة في استخدام ML.

في هذا المنشور، سنتعرف على كيفية اكتشاف نموذج الطاقة الشمسية ونشره عبر SageMaker JumpStart.

ما هو النموذج الشمسي؟

يعد Solar نموذجًا مدمجًا وقويًا للغتين الإنجليزية والكورية. وقد تم ضبطه خصيصًا لأغراض الدردشة متعددة الأدوار، مما يوضح الأداء المحسن عبر مجموعة واسعة من مهام معالجة اللغة الطبيعية.

يعتمد نموذج Solar Mini Chat على Solar 10.7B، مع بنية Llama 2 المكونة من 32 طبقة، ويتم تهيئته بأوزان مدربة مسبقًا من Mistral 7B المتوافقة مع بنية Llama 2. ويزوده هذا الضبط الدقيق بالقدرة على التعامل مع المحادثات الممتدة بشكل أكثر فعالية، مما يجعله بارعًا بشكل خاص في التطبيقات التفاعلية. وهي تستخدم طريقة توسيع نطاق تسمى توسيع نطاق العمق (DUS)، والتي تتكون من توسيع نطاق العمق والتدريب المسبق المستمر. يسمح DUS بتوسيع النماذج الأصغر حجمًا بشكل أكثر وضوحًا وفعالية مقارنة بطرق القياس الأخرى مثل مزيج الخبراء (MoE).

في ديسمبر 2023، أحدث نموذج Solar 10.7B ضجة من خلال الوصول إلى قمة لوحة المتصدرين Open LLM لـ Hugging Face. باستخدام معلمات أقل بشكل ملحوظ، يقدم Solar 10.7B استجابات مماثلة لـ GPT-3.5، ولكنها أسرع 2.5 مرة. إلى جانب تصدره قائمة Open LLM Leaderboard، يتفوق Solar 10.7B على GPT-4 بنماذج مدربة خصيصًا في مجالات ومهام معينة.

ويوضح الشكل التالي بعض هذه المقاييس:

المصدر: https://www.upstage.ai/solar-llm

باستخدام SageMaker JumpStart، يمكنك نشر نماذج مدربة مسبقًا تعتمد على Solar 10.7B: Solar Mini Chat وإصدار كمي من Solar Mini Chat، المُحسّن لتطبيقات الدردشة باللغتين الإنجليزية والكورية. يوفر نموذج Solar Mini Chat فهمًا متقدمًا للفروق الدقيقة في اللغة الكورية، مما يرفع مستوى تفاعلات المستخدم بشكل كبير في بيئات الدردشة. فهو يوفر استجابات دقيقة لمدخلات المستخدم، مما يضمن اتصالات أكثر وضوحًا وحل المشكلات بشكل أكثر كفاءة في تطبيقات الدردشة الإنجليزية والكورية.

ابدأ مع نماذج الطاقة الشمسية في SageMaker JumpStart

للبدء في استخدام نماذج Solar، يمكنك استخدام SageMaker JumpStart، وهي خدمة مركزية لتعلم الآلة مُدارة بالكامل لنشر نماذج تعلم الآلة المعدة مسبقًا في بيئة مستضافة جاهزة للإنتاج. يمكنك الوصول إلى نماذج الطاقة الشمسية من خلال SageMaker JumpStart في Amazon SageMaker Studio، وهي بيئة تطوير متكاملة قائمة على الويب (IDE) حيث يمكنك الوصول إلى الأدوات المصممة خصيصًا لتنفيذ جميع خطوات تطوير التعلم الآلي، بدءًا من إعداد البيانات وحتى إنشاء تعلم الآلة والتدريب عليه ونشره. عارضات ازياء.

على وحدة تحكم SageMaker Studio، اختر جومبستارت في جزء التنقل. يمكنك إدخال كلمة “solar” في شريط البحث للعثور على نماذج Upstage الشمسية.

الشكل - ابحث عن نموذج الطاقة الشمسية في Amazon SageMaker JumpStart

دعونا ننشر نموذج Solar Mini Chat – Quant. اختر بطاقة النموذج لعرض تفاصيل حول النموذج مثل الترخيص والبيانات المستخدمة للتدريب وكيفية استخدام النموذج. سوف تجد أيضا أ نشر الخيار، الذي ينقلك إلى الصفحة المقصودة حيث يمكنك اختبار الاستدلال باستخدام مثال للحمولة.

الشكل - كيفية نشر وضع الطاقة الشمسية في SageMaker JumpStart

يتطلب هذا النموذج اشتراكًا في AWS Marketplace. إذا كنت قد اشتركت بالفعل في هذا النموذج، وتمت الموافقة على استخدام المنتج، فيمكنك نشر النموذج مباشرة.

الشكل - كيفية الاشتراك في نموذج الطاقة الشمسية في AWS Marketplace

إذا لم تكن قد اشتركت في هذا النموذج، فاختر يشترك، انتقل إلى AWS Marketplace، وراجع شروط التسعير واتفاقية ترخيص المستخدم النهائي (EULA)، واختر اقبل العرض.

الشكل - قبول عرض نموذج Solar في AWS Marketplace

بعد اشتراكك في النموذج، يمكنك نشر النموذج الخاص بك إلى نقطة نهاية SageMaker عن طريق تحديد موارد النشر، مثل نوع المثيل وعدد المثيلات الأولي. يختار نشر وانتظر حتى يتم إنشاء نقطة النهاية لاستدلال النموذج. يمكنك تحديد ml.g5.2xlarge على سبيل المثال كخيار أرخص للاستدلال على النموذج الشمسي.

الشكل - نشر نقطة نهاية استدلال SageMaker

عندما يتم إنشاء نقطة نهاية SageMaker الخاصة بك بنجاح، يمكنك اختبارها من خلال بيئات تطبيق SageMaker المتنوعة.

قم بتشغيل التعليمات البرمجية الخاصة بك لنماذج الطاقة الشمسية في SageMaker Studio JupyterLab

يدعم SageMaker Studio بيئات تطوير التطبيقات المختلفة، بما في ذلك JupyterLab، وهي مجموعة من الإمكانات التي تعمل على زيادة عروض أجهزة الكمبيوتر المحمولة المُدارة بالكامل. يتضمن النواة التي تبدأ في ثوانٍ، ووقت تشغيل تم تكوينه مسبقًا مع علم البيانات الشائع، وأطر تعلم الآلة، وتخزين الكتل الخاصة عالية الأداء. لمزيد من المعلومات، راجع SageMaker JupyterLab.

قم بإنشاء مساحة JupyterLab داخل SageMaker Studio التي تدير موارد التخزين والحوسبة اللازمة لتشغيل تطبيق JupyterLab.

الشكل - قم بإنشاء JupyterLab في SageMaker Studio

يمكنك العثور على الكود الذي يوضح نشر نماذج الطاقة الشمسية على SageMaker JumpStart ومثال لكيفية استخدام النموذج المنشور في GitHub repo. يمكنك الآن نشر النموذج باستخدام SageMaker JumpStart. يستخدم التعليمة البرمجية التالية المثيل الافتراضي ml.g5.2xlarge لنقطة نهاية استدلال النموذج الكمي Solar Mini Chat.

تدعم نماذج الطاقة الشمسية حمولة الطلب/الاستجابة المتوافقة مع نقطة نهاية إكمال الدردشة في OpenAI. يمكنك اختبار أمثلة الدردشة ذات المنعطف الفردي أو المتعدد باستخدام Python.

# Get a SageMaker endpoint
sagemaker_runtime = boto3.client("sagemaker-runtime")
endpoint_name = sagemaker.utils.name_from_base(model_name)

# Multi-turn chat prompt example
input = {
    "messages": [
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "Can you provide a Python script to merge two sorted lists?"
      },
      {
        "role": "assistant",
        "content": """Sure, here is a Python script to merge two sorted lists:

                    ```python
                    def merge_lists(list1, list2):
                        return sorted(list1 + list2)
                    ```
                    """
      },
      {
        "role": "user",
        "content": "Can you provide an example of how to use this function?"
      }
    ]
}

# Get response from the model
response = sagemaker_runtime.invoke_endpoint(EndpointName=endpoint_name, ContentType="application/json", Body=json.dumps (input))
result = json.loads(response['Body'].read().decode())
print result

لقد نجحت في إجراء استنتاج في الوقت الفعلي باستخدام نموذج Solar Mini Chat.

تنظيف

بعد اختبار نقطة النهاية، احذف نقطة نهاية استنتاج SageMaker واحذف النموذج لتجنب تكبد الرسوم.

الشكل - حذف نقطة نهاية SageMaker

يمكنك أيضًا تشغيل التعليمات البرمجية التالية لحذف نقطة النهاية والوضع في دفتر ملاحظات SageMaker Studio JupyterLab:

# Delete the endpoint 
model.sagemaker_session.delete_endpoint(endpoint_name)
model.sagemaker_session.delete_endpoint_config(endpoint_name)

# Delete the model
model.delete_model()

لمزيد من المعلومات، راجع حذف نقاط النهاية والموارد. بالإضافة إلى ذلك، يمكنك إيقاف تشغيل موارد SageMaker Studio التي لم تعد مطلوبة.

خاتمة

في هذا المنشور، أوضحنا لك كيفية البدء باستخدام نماذج Upstage’s Solar في SageMaker Studio ونشر النموذج للاستدلال. لقد أظهرنا لك أيضًا كيف يمكنك تشغيل نموذج التعليمات البرمجية لـ Python الخاص بك على SageMaker Studio JupyterLab.

نظرًا لأن نماذج الطاقة الشمسية تم تدريبها مسبقًا بالفعل، فيمكنها المساعدة في خفض تكاليف التدريب والبنية التحتية وتمكين التخصيص لتطبيقات الذكاء الاصطناعي التوليدية لديك.

جربه على وحدة التحكم SageMaker JumpStart أو وحدة التحكم SageMaker Studio! يمكنك أيضًا مشاهدة الفيديو التالي، جرب “الطاقة الشمسية” مع Amazon SageMaker.

هذا التوجيه هو لأغراض إعلامية فقط. لا يزال يتعين عليك إجراء تقييمك المستقل، واتخاذ التدابير اللازمة لضمان امتثالك لممارسات ومعايير مراقبة الجودة المحددة الخاصة بك، والقواعد والقوانين واللوائح والتراخيص وشروط الاستخدام المحلية التي تنطبق عليك وعلى المحتوى الخاص بك، ونموذج الطرف الثالث المشار إليه في هذا التوجيه. ليس لدى AWS أي سيطرة أو سلطة على نموذج الطرف الثالث المشار إليه في هذا التوجيه، ولا تقدم أي تعهدات أو ضمانات بأن نموذج الطرف الثالث آمن أو خالي من الفيروسات أو تشغيلي أو متوافق مع بيئة ومعايير الإنتاج الخاصة بك. لا تقدم AWS أي إقرارات أو ضمانات أو ضمانات بأن أي معلومات واردة في هذا التوجيه ستؤدي إلى نتيجة أو نتيجة معينة.


عن المؤلفين

صور - تشاني يونتشاني يون هو محامي المطورين الرئيسيين في AWS، وهو متحمس لمساعدة المطورين في بناء تطبيقات حديثة على أحدث خدمات AWS. إنه مطور عملي ومدون في القلب، ويحب التعلم القائم على المجتمع ومشاركة التكنولوجيا.

صور - هوالسوك ليهوالسوك لي هو كبير مسؤولي التكنولوجيا (CTO) في Upstage. وقد عمل لدى Samsung Techwin وNCSOFT وNaver كباحث في مجال الذكاء الاصطناعي. وهو يسعى للحصول على درجة الدكتوراه في هندسة الكمبيوتر والهندسة الكهربائية في المعهد الكوري المتقدم للعلوم والتكنولوجيا (KAIST).

صور - براندون ليبراندون لي هو أحد كبار مهندسي الحلول في AWS، ويساعد بشكل أساسي عملاء التكنولوجيا التعليمية الكبار في القطاع العام. يتمتع بخبرة تزيد عن 20 عامًا في قيادة تطوير التطبيقات في الشركات العالمية والشركات الكبيرة.

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى