توحيد عمليات التعلم العميق: عملية النافذة المعممة

تقدم هذه الورقة عملية النافذة المعممة (GWO)، وهو إطار نظري يوحد العمليات الأساسية للتعلم العميق، مثل ضرب المصفوفات والالتفاف. تقسم GWO هذه العمليات إلى ثلاثة مكونات متعامدة: المسار (الخصوصية التشغيلية)، والشكل (البنية الهندسية والتناظر)، والوزن (أهمية الميزة). تقترح الورقة مبدأ المحاذاة الهيكلية، الذي يقترح أن التعميم الأمثل يحدث عندما تعكس تكوين GWO البنية الجوهرية للبيانات. ينبع هذا المبدأ من مبدأ تضييق عنق الزجاجة للمعلومات (IB). يتم تعريف مقياس لتعقيد التشغيل بناءً على تعقيد Kolmogorov، مع الحجة بأن طبيعة هذا التعقيد - التنظيم التكيفي مقابل القدرة بالقوة الغاشمة - يحدد التعميم. تتوقع GWO تعميمًا أفضل للعمليات التي تتماشى بشكل تكيفي مع بنية البيانات. يوفر الإطار قواعد نحوية لإنشاء عمليات عصبية ومسارًا قائمًا على المبادئ من خصائص البيانات إلى تصميمات البنى القابلة للتعميم.