PyTorch: بناء وتدريب وتوسيع نماذج الذكاء الاصطناعي الحديثة

تعتمد أنظمة الذكاء الاصطناعي الحديثة على أكثر من مجرد نماذج قوية. فهي تحتاج إلى إطار موثوق لتمثيل البيانات وبناء الشبكات العصبية وحساب التدرجات وتدريب النماذج والاستفادة من مسرّعات الأجهزة ونقل النماذج إلى بيئات الإنتاج.

PyTorch أصبحت واحدة من أهم أطر تطوير التعلم العميق. فهي توفر عمليات Tensor والتفاضل التلقائي وبناء الشبكات العصبية وأدوات تحميل البيانات وتسريع الأجهزة وتحسين تنفيذ النماذج وقدرات التدريب الموزع.

وبالنسبة لفرق التطوير التي تعمل على أنظمة الرؤية الحاسوبية أو معالجة اللغة الطبيعية أو محركات التوصية أو النماذج التنبؤية أو الذكاء الاصطناعي التوليدي أو منتجات التعلم الآلي المخصصة، يمكن أن توفر PyTorch طبقة تطوير النماذج الأساسية.

وتكتسب PyTorch أهمية خاصة لدى Code-Ox عندما يتطلب حل الذكاء الاصطناعي أكثر من مجرد ربط التطبيق بواجهة API لنموذج جاهز، مثل حالات تدريب النماذج أو تخصيصها أو تطوير حلول الرؤية الحاسوبية أو بناء أنظمة تنبؤية متخصصة.

ما هي PyTorch؟

PyTorch هي إطار مفتوح المصدر للتعلم الآلي والتعلم العميق، يركز على العمليات الحسابية باستخدام Tensor والتفاضل التلقائي.

يمكن للمطورين استخدامها من أجل:

• تمثيل البيانات الرقمية ومعالجتها باستخدام Tensor.
• بناء الشبكات العصبية من خلال مكونات قابلة لإعادة الاستخدام.
• حساب التدرجات تلقائياً.
• تدريب النماذج باستخدام خوارزميات التحسين.
• تشغيل أحمال العمل على مسرعات الأجهزة المدعومة.
• بناء نماذج للرؤية الحاسوبية ومعالجة اللغة الطبيعية.
• تحليل وتحسين تنفيذ النماذج.
• توسيع التدريب عبر عدة أجهزة أو آلات.

تتضمن مكونات PyTorch الرئيسية حالياً Tensor وAutograd وواجهات الشبكات العصبية وDataLoaders وإمكانات المترجم والتدريب الموزع.

لماذا تعتبر PyTorch مهمة في تطوير الذكاء الاصطناعي؟

يختلف بناء تطبيق للتعلم الآلي عن بناء تطبيق ويب تقليدي.

قد يعالج تطبيق الويب التقليدي طلباً وينفذ منطق الأعمال ويستعلم قاعدة البيانات ثم يعيد الاستجابة. أما تطبيق التعلم العميق فيتضمن دورة حسابية إضافية:

البيانات
  ↓
المعالجة المسبقة
  ↓
تمثيل Tensor
  ↓
النموذج
  ↓
التنبؤ
  ↓
حساب الخطأ
  ↓
حساب التدرجات
  ↓
تحديث المعلمات
  ↓
التكرار

توفر PyTorch المكونات اللازمة لتنفيذ سير عمل التدريب هذا، مع السماح للمطورين بتحديد بنية النموذج ومنطق الحساب باستخدام Python.

فهم Tensor في PyTorch

يعد Tensor أحد المفاهيم الأساسية في PyTorch.

وهو بنية بيانات رقمية متعددة الأبعاد يمكن أن تمثل قيمة واحدة أو مجموعة من الصور أو تسلسلات الرموز أو المتجهات أو غيرها من البيانات عالية الأبعاد.

import torch

x = torch.tensor([
    [1.0, 2.0],
    [3.0, 4.0]
])

print(x)

يمكن استخدام Tensor في العمليات الرياضية وتشغيلها على مسرعات الأجهزة المدعومة عند الحاجة.

ولهذا أصبحت Tensor تمثيلاً مشتركاً تنتقل من خلاله البيانات داخل العديد من نماذج التعلم العميق.

التفاضل التلقائي باستخدام Autograd

يتطلب تدريب الشبكة العصبية معرفة كيفية تغيير معلمات النموذج لتقليل الخطأ الذي ينتجه النموذج.

يوفر نظام autograd في PyTorch إمكانية تتبع العمليات التي تعتمد على Tensor تتطلب حساب التدرجات، ثم حساب المشتقات اللازمة لعملية التحسين.

يمكن تبسيط العملية كالتالي:

المدخلات
  ↓
الانتشار الأمامي
  ↓
التنبؤ
  ↓
الخسارة
  ↓
الانتشار الخلفي
  ↓
التدرجات
  ↓
المحسّن
  ↓
تحديث المعلمات

يسجل نظام autograd الرسم البياني للحساب أثناء التنفيذ ويستخدمه لحساب التدرجات خلال الانتشار الخلفي. كما تتم إعادة إنشاء الرسم البياني أثناء كل تكرار، مما يدعم التحكم الديناميكي في تدفق Python.

بناء الشبكات العصبية باستخدام torch.nn

توفر PyTorch واجهة الشبكات العصبية من خلال torch.nn.

وتسمح فئة nn.Module للمطورين بتعريف النماذج كمكونات قابلة لإعادة الاستخدام.

import torch
from torch import nn

class Classifier(nn.Module):
    def __init__(self):
        super().__init__()

        self.network = nn.Sequential(
            nn.Linear(128, 64),
            nn.ReLU(),
            nn.Linear(64, 10)
        )

    def forward(self, x):
        return self.network(x)

ويمكن توسيع هذا الأسلوب لبناء الشبكات الالتفافية وبنى Transformer والشبكات المتكررة والنماذج متعددة الوسائط والبنى العصبية المخصصة.

PyTorch وبيانات التدريب

تعتمد جودة النموذج بدرجة كبيرة على طريقة إعداد بيانات التدريب وتقديمها إلى النموذج.

توفر PyTorch تجريدات Dataset وDataLoader للعمل مع بيانات التدريب.

ويمكن استخدام DataLoader لتنظيم البيانات في دفعات ودعم احتياجات التدريب مثل الخلط وتحميل البيانات بشكل متوازٍ.

فمثلاً، يمكن لمشروع للرؤية الحاسوبية معالجة آلاف صور المنتجات على دفعات بدلاً من تحميل مجموعة البيانات بأكملها إلى الذاكرة في وقت واحد.

PyTorch في الرؤية الحاسوبية

تعد الرؤية الحاسوبية من أكثر المجالات العملية لاستخدام PyTorch.

يمكن استخدام نماذج PyTorch من أجل:

• اكتشاف الكائنات في الصور.
• تصنيف المنتجات.
• اكتشاف عيوب التصنيع.
• تحليل الصور الصناعية أو الطبية.
• تحسين الصور وتحويلها.
• تجزئة الكائنات والمناطق.
• معالجة إطارات الفيديو.

تخيل نظاماً لمراقبة الجودة في مصنع.

تلتقط الكاميرا صورة لمكون صناعي، ثم يمرر النظام الصورة إلى نموذج PyTorch مدرب لتحديد ما إذا كان المكون يطابق معايير الجودة.

الكاميرا
  ↓
المعالجة المسبقة
  ↓
نموذج PyTorch
  ↓
التنبؤ
  ↓
نتيجة الجودة
  ↓
ERP / لوحة التحكم / سير العمل

لكن النموذج ليس سوى جزء من الحل. إذ يحتاج النظام الإنتاجي أيضاً إلى استقبال الصور وقواعد الأعمال وواجهات API والتخزين والمراقبة وواجهة المستخدم.

PyTorch في معالجة اللغة الطبيعية والذكاء الاصطناعي التوليدي

تستخدم PyTorch أيضاً كأساس للعديد من تطبيقات معالجة اللغة الطبيعية والذكاء الاصطناعي التوليدي.

يمكن استخدامها في العمل مع:

• Transformers
• تصنيف النصوص
• Embeddings
• نمذجة التسلسلات
• نماذج اللغة
• النماذج متعددة الوسائط
• أبحاث الذكاء الاصطناعي التوليدي المخصصة

وفي تطبيق تجاري، يمكن أن يكون نموذج PyTorch في الطبقة الداخلية بينما يتم بناء بقية المنتج باستخدام APIs وقواعد البيانات وخدمات الخلفية وواجهة مستخدم مخصصة.

وهنا من المهم التمييز بين الأمرين: PyTorch هي إطار لتطوير النماذج وليست منصة كاملة لبناء تطبيقات الذكاء الاصطناعي.

PyTorch وتسريع GPU

تتضمن عمليات التعلم العميق عدداً كبيراً من العمليات الحسابية، ولذلك يمكن لمسرعات الأجهزة أن تجعل التدريب والاستدلال أكثر عملية عندما تكون بنية العمل والأجهزة مناسبة.

تدعم PyTorch التشغيل على أنواع مختلفة من مسرعات الأجهزة المدعومة وتوفر APIs للتعامل معها.

device = torch.device(
    "cuda" if torch.cuda.is_available() else "cpu"
)

model = model.to(device)
data = data.to(device)

لكن تشغيل النموذج على GPU لا يعني تلقائياً أن التطبيق سيكون أسرع. إذ تؤثر حركة البيانات وحجم الدفعة وبنية النموذج والذاكرة وطريقة تحميل البيانات وطبيعة المهمة على الأداء.

تدريب نموذج باستخدام PyTorch

تتضمن حلقة التدريب النموذجية عدة خطوات متكررة:

for inputs, targets in dataloader:

    optimizer.zero_grad()

    outputs = model(inputs)

    loss = loss_function(outputs, targets)

    loss.backward()

    optimizer.step()

ينفذ النموذج الانتشار الأمامي، ثم تقيس دالة الخسارة الفرق بين التنبؤات والأهداف، ويحسب autograd التدرجات أثناء الانتشار الخلفي، ثم يقوم المحسن بتحديث معلمات النموذج.

ويمكن تخصيص هذه الحلقة بدرجة كبيرة حسب طبيعة مشكلة التدريب.

PyTorch والتعلم بالنقل وتخصيص النماذج

لا تحتاج الشركات غالباً إلى تدريب نموذج كبير من الصفر.

يمكن أن يكون من الأكثر عملية البدء بنموذج موجود وتكييفه مع مجال محدد.

على سبيل المثال، قد تمتلك شركة تعمل في مجال التخزين نموذجاً عاماً لمعالجة الصور، لكنها تحتاج إلى نظام يتعرف على فئات المنتجات الخاصة بها.

يمكن أن يتضمن سير العمل:

1. جمع بيانات ممثلة لحالة الاستخدام.
2. تنظيف البيانات ووضع العلامات عليها.
3. اختيار نموذج مدرب مسبقاً.
4. تكييف النموذج مع المهمة.
5. التدريب أو التخصيص عند الحاجة.
6. تقييم الأداء على بيانات لم يرها النموذج.
7. نشر النموذج خلف API.
8. مراقبة الأداء في بيئة الإنتاج.

والهدف ليس الحصول على نتيجة مرتفعة في بيانات التدريب فقط، بل ضمان أداء موثوق على البيانات والظروف الحقيقية بعد النشر.

PyTorch والتدريب الموزع

مع زيادة حجم النماذج والبيانات، قد لا توفر وحدة معالجة واحدة ذاكرة أو قدرة حسابية كافية.

توفر PyTorch إمكانات للتدريب الموزع تشمل DistributedDataParallel وFully Sharded Data Parallel وTensor Parallelism وPipeline Parallelism وغيرها من الأدوات الموزعة.

يمكن مثلاً استخدام DistributedDataParallel لتوزيع التدريب عبر عدة عمليات بحيث تعالج نسخ النموذج دفعات مختلفة من البيانات.

أما النماذج الكبيرة التي لا يمكن وضعها بسهولة على GPU واحد، فيمكن استخدام تقنيات التجزئة وغيرها من استراتيجيات التوازي لتوزيع حالة النموذج والحسابات على عدة أجهزة.

PyTorch وتحسين تنفيذ النماذج

لا يعتمد أداء التدريب والاستدلال على الأجهزة وحدها.

تتضمن PyTorch قدرات للمترجم والتحسين تهدف إلى تحسين تنفيذ النماذج واستخدام الموارد.

في بيئات الإنتاج يمكن للفرق دراسة:

• ترجمة الرسم البياني.
• تحسين العمليات.
• استخدام الذاكرة.
• استراتيجيات Batch.
• الدقة المختلطة.
• التسريع الخاص بالأجهزة.
• تحسين بنية النموذج.
• استراتيجيات تقديم النماذج للاستدلال.

ويجب أن تستند عملية التحسين إلى القياس والتحليل بدلاً من الافتراضات، فقد لا يكون النموذج نفسه هو عنق الزجاجة إذا كان معظم زمن الاستجابة يأتي من تحميل البيانات أو الشبكة أو المعالجة المسبقة أو قاعدة البيانات.

PyTorch ضمن بنية تطبيق AI إنتاجي

نادراً ما يوجد نموذج PyTorch بمفرده داخل تطبيق إنتاجي.

يمكن أن تكون البنية الواقعية كالتالي:

تطبيق الويب / الهاتف
          ↓
       طبقة API
          ↓
    تطبيق الذكاء الاصطناعي
       ↙     ↘
  نموذج PyTorch   قاعدة البيانات
       ↓
خدمة الاستدلال
       ↓
سير عمل الأعمال
       ↓
CRM / ERP / Analytics

يمكن بناء الواجهة باستخدام React أو Next.js، بينما يمكن بناء الواجهة الخلفية باستخدام Python أو تقنية أخرى مناسبة.

ويصبح نموذج PyTorch مكوناً واحداً داخل التطبيق الكامل.

مثال: تحسين الصور باستخدام الذكاء الاصطناعي

تخيل شركة تجارة إلكترونية تستقبل صور منتجات تختلف في الإضاءة والخلفيات والجودة البصرية.

يمكن تطوير سير عمل يعتمد على PyTorch لتنفيذ مهمة متخصصة لتحسين الصور.

يمكن أن يعمل التطبيق كالتالي:

1. يرفع التاجر الصورة.
2. يتحقق النظام من الملف ويخزنه.
3. تتم معالجة الصورة مسبقاً.
4. ينفذ نموذج PyTorch التحويل المطلوب.
5. يتم تخزين الصورة الناتجة.
6. يعيد التطبيق الملف المعالج.
7. تتم مراقبة العمليات والأخطاء.

يوضح هذا مثالاً مهماً: النموذج ينفذ التحويل الذكي، لكن هندسة التطبيق هي التي تحول هذه القدرة إلى ميزة تجارية قابلة للاستخدام.

وتشمل حلول Code-Ox الحالية تحسين الصور باستخدام الذكاء الاصطناعي إلى جانب الذكاء الاصطناعي للمحادثة ووكلاء الاتصال وأنظمة RAG وأتمتة التوظيف وحلول الفيديو وغيرها، مما يجعل دمج النماذج داخل المنتجات التجارية جزءاً مهماً من أعمال تطوير AI.

PyTorch وأنظمة RAG

يمكن أن تظهر PyTorch أيضاً داخل أنظمة RAG، رغم أن RAG بحد ذاته لا يتطلب استخدام PyTorch.

يمكن أن يستخدم نظام المعرفة المؤسسية مثلاً:

المستخدم
  ↓
واجهة الذكاء الاصطناعي
  ↓
الاسترجاع
  ↓
قاعدة المعرفة / البحث المتجهي
  ↓
السياق المناسب
  ↓
نموذج اللغة
  ↓
الاستجابة

وقد يتم استخدام نموذج PyTorch مخصص في جزء من النظام، مثل التضمين أو التصنيف أو إعادة الترتيب أو مكون تعلم آلي آخر.

وهذا يعني أن PyTorch يمكن أن تكمل تقنيات الذكاء الاصطناعي على مستوى التطبيق بدلاً من أن تحل محلها.

PyTorch مقابل مكتبات التعلم الآلي التقليدية

تكون PyTorch مناسبة بشكل خاص عندما تتطلب المشكلة شبكات عصبية وتعلمًا عميقاً.

أما مشاكل البيانات المنظمة فقد تكون المكتبات التقليدية للتعلم الآلي خياراً ممتازاً لها عندما لا تكون الشبكات العصبية المتقدمة ضرورية.

فمثلاً، قد لا يحتاج نظام للتنبؤ باحتمالية فقدان العميل اعتماداً على مجموعة بيانات جدوليّة صغيرة إلى بنية تعلم عميق كبيرة.

لذلك ينبغي اختيار PyTorch بناءً على طبيعة المشكلة وليس لمجرد أنها من أشهر أطر الذكاء الاصطناعي.

التحديات الشائعة عند استخدام PyTorch

جودة البيانات

لا يستطيع النموذج المتقدم تعويض بيانات غير موثوقة أو منحازة أو مصنفة بشكل خاطئ أو غير ممثلة للواقع.

تقييم النموذج

لا تعني النتيجة المرتفعة على بيانات التدريب بالضرورة أداءً جيداً في العالم الحقيقي. يجب أن تمثل بيانات التحقق والاختبار الظروف الفعلية التي سيعمل فيها النموذج.

زمن الاستدلال

قد يكون النموذج مناسباً للتجارب ولكنه غير ملائم لتطبيق تفاعلي إذا استغرق الاستدلال وقتاً طويلاً.

البنية التحتية

تصبح ذاكرة GPU وقدرة CPU والتخزين والشبكات وبنية النشر والمراقبة عوامل مهمة عند الانتقال من التجربة إلى الإنتاج.

صيانة النموذج

يمكن أن تتغير بيانات الإنتاج مع مرور الوقت، ولذلك قد تحتاج النماذج إلى المراقبة والتقييم وإعادة التدريب وإدارة الإصدارات وعمليات النشر المنضبطة.

متى تحتاج الشركة إلى PyTorch؟

يمكن أن تكون PyTorch خياراً قوياً عندما تحتاج الشركة إلى قدرات تعلم عميق مخصصة بدلاً من الاعتماد فقط على خدمة ذكاء اصطناعي جاهزة.

ومن حالات الاستخدام:

• الرؤية الحاسوبية
• تصنيف الصور
• اكتشاف الكائنات
• تحسين الصور
• معالجة اللغة الطبيعية
• أنظمة التوصية
• النمذجة التنبؤية
• أبحاث الصوت والكلام
• النماذج التوليدية المخصصة
• تخصيص النماذج لمجالات محددة
• البحث والتجريب

أما إذا كانت الشركة تحتاج فقط إلى ميزة بسيطة لتوليد النصوص، فقد يكون استخدام نموذج مستضاف عبر API مناسب أبسط من بناء وتشغيل نموذج PyTorch مخصص.

بناء حلول AI باستخدام PyTorch مع Code-Ox

تحويل نموذج PyTorch إلى منتج تجاري يتطلب أكثر من تطوير النموذج.

قد يحتاج النظام المحيط بالنموذج إلى:

• واجهات ويب أو تطبيقات هاتف مخصصة
• واجهات Backend APIs
• المصادقة والصلاحيات
• خطوط معالجة البيانات
• قواعد البيانات
• النشر السحابي أو المحلي
• خدمات تشغيل النماذج
• المراقبة والسجلات
• تكاملات ERP وCRM
• لوحات التحليلات
• سير عمل للمراجعة البشرية

وهنا تصبح منهجية التطوير التي تركز على الأعمال مهمة.

تجمع Code-Ox بين تطوير الذكاء الاصطناعي والبرمجيات المخصصة والتكاملات والتحليلات وسير العمل التجاري. وتشمل حلولها الحالية الذكاء الاصطناعي للمحادثة ووكلاء الاتصال الصوتي وأتمتة التوظيف والرؤية الحاسوبية وأنظمة RAG وتحسين الصور وإنشاء الفيديو بالذكاء الاصطناعي.

وبالنسبة للشركات التي تحتاج إلى تعلم آلي متخصص، يمكن أن تعمل PyTorch كطبقة لتطوير النموذج، بينما تتولى Code-Ox بناء طبقة التطبيق والتكاملات والبنية المحيطة بالنموذج.

PyTorch ضمن دورة تطوير الذكاء الاصطناعي

ينبغي التعامل مع مشروع PyTorch كدورة هندسية متكاملة وليس كتدريب نموذج فقط.

مشكلة الأعمال
      ↓
جمع البيانات
      ↓
إعداد البيانات
      ↓
اختيار النموذج
      ↓
التدريب
      ↓
التقييم
      ↓
التحسين
      ↓
النشر
      ↓
المراقبة
      ↓
التطوير المستمر

كل مرحلة تؤثر في النتيجة النهائية.

قد يفشل نموذج متقدم تقنياً في تحقيق قيمة تجارية إذا كانت البيانات ضعيفة أو كان الاستدلال بطيئاً أو كانت الواجهة صعبة الاستخدام أو كان النموذج منفصلاً عن سير العمل داخل المؤسسة.

مستقبل تطوير الذكاء الاصطناعي باستخدام PyTorch

يتجه تطوير الذكاء الاصطناعي بشكل متزايد نحو أنظمة تصبح فيها النماذج مكونات داخل تطبيقات أكبر.

بدلاً من التعامل مع النموذج كمنتج بحثي مستقل، تحتاج فرق التطوير إلى ربط النماذج بواجهات API وقواعد البيانات والواجهات الفورية وأنظمة المعرفة والبرمجيات التجارية والأتمتة.

وتوفر PyTorch مزيجاً من حسابات Tensor والتفاضل التلقائي وأدوات الشبكات العصبية وتسريع الأجهزة والمترجم وإمكانات التدريب الموزع، مما يجعلها مناسبة لمجموعة واسعة من عمليات تطوير النماذج الحديثة.

ولا تكمن الفرصة المستقبلية في بناء نماذج أكبر فقط، بل في بناء أنظمة ذكاء اصطناعي تحل مشكلات محددة بشكل موثوق وتندمج بشكل طبيعي مع طريقة عمل المؤسسات.

الخلاصة

توفر PyTorch أساساً مرناً لبناء وتدريب نماذج التعلم العميق الحديثة.

ويمنحها نظام Tensor وAutograd وواجهات الشبكات العصبية وأدوات تحميل البيانات ودعم المسرعات وإمكانات المترجم والتدريب الموزع مجموعة قوية من الأدوات اللازمة لأحمال عمل الذكاء الاصطناعي المتقدمة.

لكن PyTorch ليست سوى طبقة واحدة من حل الذكاء الاصطناعي الإنتاجي.

تحتاج الحلول القوية إلى الجمع بين تطوير النموذج وجودة البيانات والبنية التحتية الموثوقة وواجهات API الآمنة وتجربة المستخدم والمراقبة والتكامل مع عمليات الأعمال الحقيقية.

وبالنسبة للشركات التي تستكشف الرؤية الحاسوبية أو التعلم الآلي المخصص أو الذكاء الاصطناعي التنبؤي أو التطبيقات المتخصصة، يمكن أن توفر PyTorch الأساس التقني لطبقة النموذج. ومع قدرات Code-Ox في تطوير الذكاء الاصطناعي والبرمجيات، يمكن تحويل هذا النموذج إلى تطبيق عملي متصل بالأنظمة وسير العمل التي تحتاجها الشركة.

هل لديك مشكلة تجارية تحتاج إلى حل ذكاء اصطناعي مخصص بدلاً من ميزة AI عامة؟ يمكن لـ Code-Ox مساعدتك في تحويل الفكرة إلى تطبيق ذكاء اصطناعي متكامل، بدءاً من تطوير النموذج والتكامل وحتى البرمجيات المحيطة به.