بايتورش

PyTorch مكتبة مفتوحة المصدر للتعلم العميق ، طُوّرت في الأصل بواسطة Meta Platforms وتُطوّر حاليًا بدعم من مؤسسة Linux . تُعدّ PyTorch خليفةً لـ Torch ، وتوفر واجهة برمجة تطبيقات عالية المستوى تعتمد على تطبيقات مُحسّنة منخفضة المستوى لخوارزميات وهياكل التعلم العميق، مثل Transformer و SGD . ومن الجدير بالذكر أن واجهة برمجة التطبيقات هذه تُبسّط تدريب النماذج واستنتاجها إلى بضعة أسطر من التعليمات البرمجية. تسمح PyTorch بالتوازي التلقائي للتدريب ، وتُطبّق داخليًا روابط CUDA التي تُسرّع التدريب بشكل أكبر من خلال الاستفادة من موارد وحدة معالجة الرسومات (GPU) .

يستخدم PyTorch الموتر كنوع بيانات أساسي ، على غرار NumPy . يتم تسهيل التدريب بواسطة نظام تفاضل تلقائي معكوس ، Autograd، الذي ينشئ رسمًا بيانيًا موجهًا غير دوري للعمليات (ومُعاملاتها) التي ينفذها النموذج أثناء عملية التمرير الأمامي. بعد ذلك ، يتم تطبيق عملية الانتشار العكسي مع دالة الخسارة . ^{[ 4 ]}

اعتبارًا من عام 2025لا تزال PyTorch واحدة من أشهر مكتبات التعلم العميق، إلى جانب مكتبات أخرى مثل TensorFlow و Keras . ^{[ 5 ]} ويمكن تثبيتها باستخدام مدير حزم Anaconda . ^{[ 6 ]} وقد بُني عدد من أنظمة التعلم العميق التجارية على PyTorch، بما في ذلك ChatGPT ، ^{[ 7 ]} و Tesla Autopilot ، ^{[ 8 ]} و Pyro من Uber ، ^{[ 9 ]} و Transformers من Hugging Face . ^{[ 10 ] [ 11 ]}

في عام ٢٠٠١، طُوِّرت مكتبة Torch وأُصدرت بموجب رخصة GPL من قِبل معهد أبحاث Idiap . ^{[ ١٢ ]} كانت مكتبةً للتعلم الآلي مكتوبةً بلغة C++ وCUDA، تدعم أساليبَ متنوعةً تشمل الشبكات العصبية، وآلات المتجهات الداعمة (SVM)، ونماذج ماركوف المخفية ، وغيرها. ^{[ ١٣ ] [ ١٤ ] [ ١٥ ]} في عام ٢٠١٠ تقريبًا، أُعيدت كتابتها بواسطة رونان كولوبيرت، وكليمنت فارابيت، وكوراي كافوكوغلو. عُرفت هذه النسخة باسم Torch7 أو LuaTorch. كُتبت بحيث تكون الواجهة الخلفية بلغة C والواجهة الأمامية بلغة Lua . ^{[ ١٦ ]} في منتصف عام ٢٠١٦، أعاد بعض المطورين هيكلتها لفصل الواجهة الأمامية عن الخلفية، متأثرين بشدة بمكتبتي torch-autograd و Chainer . بدورها، تأثرت torch-autograd بمكتبة HIPS/autograd. ^{[ 17 ]} توقف تطوير Torch7 في عام 2018 وتم دمجه في مشروع PyTorch. ^{[ 18 ] [ 19 ]}

تُشغّل شركة ميتا (المعروفة سابقًا باسم فيسبوك) كلاً من PyTorch و Caffe2 (بنية الشبكات العصبية التلافيفية لتضمين الميزات السريع )، إلا أن النماذج المُعرّفة بواسطة هذين الإطارين كانت غير متوافقة. وقد أنشأت ميتا ومايكروسوفت مشروع تبادل الشبكات العصبية المفتوحة (ONNX) في سبتمبر 2017 لفصل أُطر التعلم العميق عن بيئات التشغيل الخاصة بالأجهزة، مما يسمح بتحويل النماذج بين الأُطر وتحسينها لموفري التنفيذ مثل TensorRT من NVIDIA. ^{[ 20 ]} دُمج Caffe2 في PyTorch في نهاية مارس 2018. ^{[ 21 ]} وفي سبتمبر 2022، أعلنت ميتا أن PyTorch ستُدار من قِبل مؤسسة PyTorch المستقلة، وهي شركة تابعة حديثة التأسيس لمؤسسة Linux . ^{[ 22 ]}

تم إصدار PyTorch 2.0 في 15 مارس 2023، حيث قدم TorchDynamo ، وهو مُصرّف على مستوى بايثون يجعل تشغيل التعليمات البرمجية أسرع بمرتين، إلى جانب تحسينات كبيرة في أداء التدريب والاستدلال عبر منصات الحوسبة السحابية الرئيسية . ^{[ 23 ] [ 24 ]}

يُعرّف PyTorch فئةً تُسمى Tensor( torch.Tensor) لتخزين ومعالجة المصفوفات المستطيلة متعددة الأبعاد المتجانسة من الأرقام. يدعم PyTorch أنواعًا فرعيةً مختلفةً من المصفوفات متعددة الأبعاد، ^{[ 25 ]} أو الموترات. ^{[ 26 ]} تُشبه موترات PyTorch مصفوفات NumPy ، ولكن يُمكن أيضًا معالجتها بواسطة وحدة معالجة رسومية NVIDIA تدعم CUDA . كما يعمل PyTorch على تطوير دعم لمنصات وحدات معالجة رسومية أخرى، مثل ROCm من AMD ^{[ 27 ]} وMetal Framework من Apple . ^{[ 28 ]}

يُعرّف PyTorch وحدةً تُسمى nn( torch.nn) لوصف الشبكات العصبية ودعم تدريبها. تُقدّم هذه الوحدة مجموعةً شاملةً من اللبنات الأساسية للشبكات العصبية، بما في ذلك طبقاتٍ ووظائف تنشيطٍ مُتعددة، مما يُتيح بناء نماذج مُعقدة. تُبنى الشبكات من خلال الوراثة من الوحدة torch.nnوتحديد تسلسل العمليات في forward()الدالة.

يستطيع بايتورش حفظ وتحميل النماذج باستخدام تنسيق ملفاته الخاص، وهو عبارة عن أرشيف ZIP64 يحتوي على أوزان النموذج في ملف بايثون pickle ، بالإضافة إلى معلومات أخرى مثل ترتيب البايتات . وتُستخدم امتدادات الملفات .pt و .pth بشكل شائع لهذه الملفات. ^{[ 29 ]}

يُظهر البرنامج التالي الوظائف الأساسية للمكتبة من خلال مثال بسيط.

استيراد تورشdtype = torch . floatdevice = torch.device ( "cpu" ) # تنفيذ جميع العمليات الحسابية على وحدة المعالجة المركزية# الجهاز = torch.device("cuda:0") # ينفذ جميع العمليات الحسابية على وحدة معالجة الرسومات# أنشئ موترًا واملأه بأرقام عشوائيةa = torch.randn ( 2 , 3 , device = device , dtype = dtype )​​اطبع ( أ )# الناتج: tensor([[-1.1884, 0.8498, -1.7129],# [-0.8816, 0.1944, 0.5847]])b = torch.randn ( 2 , 3 , device = device , dtype = dtype )​​اطبع ( ب )# الناتج: tensor([[ 0.7178, -0.8453, -1.3403],# [ 1.3262, 1.1512, -1.7070]])اطبع ( أ * ب )# الناتج: tensor([[-0.8530, -0.7183, 2.58],# [-1.1692, 0.2238, -0.9981]])اطبع ( مجموع ( أ ))# الناتج: tensor(-2.1540)print ( a [ 1 , 2 ]) # إخراج العنصر الموجود في العمود الثالث من الصف الثاني (بدءًا من الصفر)# الناتج: tensor(0.5847)اطبع ( أ.الحد الأقصى ( ))# الناتج: tensor(0.8498)

تحدد كتلة التعليمات البرمجية التالية شبكة عصبية ذات طبقات خطية باستخدام nnالوحدة النمطية.

from torch import nn # استيراد الوحدة الفرعية nn من PyTorchclass NeuralNetwork ( nn . Module ): # يتم تعريف الشبكات العصبية كفئاتdef __init__ ( self ): # يتم تعريف الطبقات والمتغيرات في دالة __init__super () . __init__ () # يجب أن يكون موجودًا في كل شبكة.self.flatten = nn.Flatten ( ) # إنشاء طبقة تسطيح .self.linear_relu_stack = nn.Sequential ( # إنشاء مجموعة من الطبقات .nn.Linear ( 28 × 28 , 512 )، # تتميز الطبقات الخطية بشكل إدخال وإخراجnn.ReLU ()، # ReLU هي إحدى دوال التنشيط العديدة التي توفرها nnnn.Linear ( 512 , 512 )​​nn . ReLU (),nn . Linear ( 512 , 10 ),)def forward ( self , x ): # تحدد هذه الدالة عملية التمرير الأمامي.x = self.flatten ( x )​​logits = self.linear_relu_stack ( x )​​إرجاع اللوجيت

• مقارنة برامج التعلم العميق
• البرمجة التفاضلية
• سرعة فائقة
• الذكاء الاصطناعي مفتوح المصدر
• PyTorch Lightning

• الموقع الرسمي