ج. زيكو كولتر

ويكي
, , , ,
1

ملف شخصي
الجنسية أمريكي
المناصب الحالية جامعة كارنيجي ميلون — قسم التعلم الآلي (أستاذ ومدير)؛ مركز بوش للذكاء الاصطناعي (كبير العلماء، أبحاث الذكاء الاصطناعي)؛ جراي سوان إيه آي (مؤسس مشارك ومستشار أول)؛ أوبن إيه آي (عضو مجلس إدارة، رئيس لجنة السلامة والأمن)
مجالات البحث سلامة الذكاء الاصطناعي، المتانة العدائية، التحسين القابل للتفاضل، نظرية التعلم العميق، الشبكات العصبية الضمنية، أنظمة الطاقة
المشرف على الدكتوراه أندرو واي نغ
أطروحة الدكتوراه التعلم والتحكم باستخدام نماذج غير دقيقة (جامعة ستانفورد، 2010)
الموقع الإلكتروني zicokolter.com
إكس / تويتر @zicokolter
جيت هاب zkolter · locuslab (منظمة المختبر)
جوجل سكولار J. Zico Kolter

نظرة عامة

جيه زيكو كولتر هو عالم حاسوب أمريكي أمضى مسيرته المهنية عند التقاطع الدقيق بين نظرية التحسين وتصميم الشبكات العصبية. بصفته أستاذًا ومديرًا لقسم التعلم الآلي في جامعة كارنيجي ميلون - وهو الدور الذي يشغله منذ انضمامه إلى هيئة التدريس في عام 2012 - فقد أنتج مجموعة من الأعمال التي تعتبر غير معتادة تقنيًا لإصرارها على الضمانات الصارمة: بنيات تكون مخرجاتها قابلة للإثبات من حيث المتانة ضد الاضطرابات العدائية، وطبقات تمثل عمليًا حلولًا لمشاكل التحسين المحدبة، وشبكات لا تُعرَّف بواسطة معادلات تمرير أمامي صريحة بل بشروط النقطة الثابتة. ورقة بحثية له في عام 2023 قدمت هجوم التدرج الإحداثي الجشع (GCG)، والذي أظهر لأول مرة إمكانية اختراق نماذج اللغة الكبيرة المتوافقة بشكل تلقائي وعالمي، أصبحت على الفور واحدة من أكثر الأوراق البحثية استشهادًا في مجال سلامة نماذج اللغة الكبيرة والعمل التأسيسي لشركة جراي سوان إيه آي، شركة الأمن السيبراني التي شارك في تأسيسها. في أغسطس 2024، تم تعيينه في مجلس إدارة أوبن إيه آي وجعله رئيسًا للجنة السلامة والأمن — وهو أحد أهم الأدوار التنظيمية لسلامة الذكاء الاصطناعي من الناحية التشغيلية في الصناعة.

الحياة المبكرة والتعليم

أكمل كولتر دراسته الجامعية في علوم الحاسوب في جامعة جورج تاون. ثم التحق ببرنامج الدكتوراه في علوم الحاسوب في جامعة ستانفورد في عام 2005، حيث عمل في مجموعة أندرو نغ عند تقاطع التعلم الآلي والتحكم الآلي. تطرقت أطروحة الدكتوراه الخاصة به، التعلم والتحكم باستخدام نماذج غير دقيقة (2010)، إلى كيفية عمل عوامل التعلم المعزز بفعالية عندما تكون النماذج التي يستخدمونها للتخطيط غير كاملة — وهي مسألة لها آثار على كل من علم الروبوتات والذكاء الاصطناعي الآمن والتي تسبق أبحاثه اللاحقة التي تركز على السلامة. غطت الأعمال المشتركة مع نغ وسيباستيان ترون خلال هذه الفترة التنقل بالأرجل، والقيادة الذاتية الشديدة، وفصل الطاقة. بعد الدكتوراه، حصل على زمالة ما بعد الدكتوراه في مختبر علوم الحاسوب والذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا من عام 2010 إلى عام 2012، قبل الانضمام إلى جامعة كارنيجي ميلون كأستاذ مساعد.

المسيرة المهنية

جامعة كارنيجي ميلون — قسم التعلم الآلي (2012–حتى الآن)

انضم كولتر إلى جامعة كارنيجي ميلون في عام 2012 وتمت ترقيته إلى أن أصبح أستاذًا متفرغًا، ثم أصبح في النهاية مديرًا (رئيس قسم) قسم التعلم الآلي داخل كلية علوم الحاسوب. يحتفظ بانتماءات إلى قسم علوم الحاسوب، ومعهد الروبوتات، وقسم الأنظمة البرمجية والمجتمعية، ومعهد CyLab للأمن والخصوصية. أنتجت مجموعته البحثية، المعروفة باسم مختبر Locus (على جيت هاب: locuslab)، سلسلة من الأوراق المؤثرة عبر ثلاثة مواضيع متداخلة:

التحسين القابل للتفاضل والبنى الضمنية. إن السمة الأكثر تميزًا تقنيًا في عمل كولتر هي معالجة مشاكل التحسين الكلاسيكية كوحدات بناء للشبكات العصبية. أظهرت OptNet (ICML 2017، مع براندون آموس) كيفية تضمين برنامج تربيعي كطبقة قابلة للتفاضل، مما مكّن الشبكات من فرض قيود صلبة والتفكير في التبعيات المنظمة التي لا تستطيع الطبقات التقليدية التقاطها؛ تم تنفيذ ذلك في حزمة qpth مفتوحة المصدر وأصبح مرجعًا أساسيًا لأدبيات التفاضل الضمني. قدمت شبكات الإدخال المحدب العصبية (ICML 2017، أيضًا مع آموس) بنيات تكون مخرجاتها محدبة بشكل مضمون في مدخلاتها، مع تطبيقات في تحسين نظام الطاقة والتنبؤ المنظم. أعادت نماذج التوازن العميق (DEQ، NeurIPS 2019، مع شوجي باي وفلادلن كولتن) تشكيل الشبكات العميقة على أنها النقاط الثابتة لطبقة متكررة واحدة، مما يتيح الاستدلال اللانهائي العمق مع ذاكرة ثابتة أثناء التمريرات الأمامية عبر حلول إيجاد الجذور؛ تم توسيع الإطار بشكل أكبر في ورقة متابعة حول DEQs متعددة المستويات.

المتانة العدائية القابلة للإثبات. بدءًا من حوالي عام 2018، تحولت مجموعة كولتر إلى مسألة ما إذا كان يمكن جعل المصنفات العميقة قوية بشكل قابل للتصديق — ليس فقط مقاومة تجريبيًا للهجمات ولكن يمكن إثباتها، مع ضمانات رسمية. كانت ورقة ICML لعام 2018 “دفاعات قابلة للإثبات ضد الأمثلة العدائية عبر متعدد الأسطح العدائية المحدب الخارجي” (مع إريك وونغ) أول طريقة تقدم هذا بالضبط للشبكات ذات الحجم غير التافه، باستخدام الاسترخاء المحدب للمنطقة العدائية حول كل مدخل لحساب أنصاف أقطار معتمدة دقيقة. طورت الأعمال اللاحقة التنعيم العشوائي والبنيات محدودة ليبشيتز، مما أدى إلى مجموعة في جامعة كارنيجي ميلون أصبحت واحدة من المساهمين الأساسيين في معايير المتانة القابلة للتصديق.

سلامة نماذج اللغة الكبيرة والاختراق الآلي. من عام 2022، بدأت مجموعة كولتر في تطبيق الأساليب العدائية على نماذج اللغة المتوافقة. الورقة البارزة “الهجمات العدائية العالمية والقابلة للنقل على نماذج اللغة المتوافقة” (arXiv 2307.15043، 2023، مع أندي زو، زيفان وانغ، نيكولاس كارليني، ميلاد نصر، ومات فريدريكسون) قدمت هجوم GCG: طريقة تحسين منفصلة قائمة على التدرج تجد لاحقة عالمية، والتي عند إلحاقها بأي استعلام ضار، تتسبب في امتثال نماذج اللغة الكبيرة المتوافقة — بما في ذلك Llama-2 و Vicuna و ChatGPT و Bard و Claude — للطلب. أظهرت الورقة أن حواجز سلامة نماذج اللغة الكبيرة كانت هشة بطريقة جوهرية هيكليًا، وأثارت موجة كبيرة من أبحاث الاختراق والدفاع المتابعة، وتلقت تغطية واسعة في الصحافة التقنية والعامة.

C3.ai — كبير علماء البيانات (تواريخ غير مؤكدة)

عمل كولتر ككبير علماء البيانات في C3.ai، شركة برمجيات الذكاء الاصطناعي للمؤسسات، في مرحلة مبكرة من مسيرته المهنية. قال للصحفيين إن نماذج اللغة الكبيرة “هي ناقلات هجوم”، وهو اقتباس تم تداوله على نطاق واسع بعد ورقة GCG. لم يتم تحديد توقيت ومدة الدور في C3.ai بشكل عام خارج لينكد إن.

مركز بوش للذكاء الاصطناعي — كبير العلماء، أبحاث الذكاء الاصطناعي (مستمر)

بالإضافة إلى منصبه في جامعة كارنيجي ميلون، يعمل كولتر ككبير العلماء لأبحاث الذكاء الاصطناعي في مكتب بيتسبرغ التابع لمركز بوش للذكاء الاصطناعي. توفر بوش تمويلًا كبيرًا للبحث في مجموعته في جامعة كارنيجي ميلون، مما يتيح العمل على نطاق ليس نموذجيًا للمختبر الأكاديمي؛ تم الاعتراف بالعلاقة علنًا في سيرته الذاتية المؤسسية.

جراي سوان إيه آي — مؤسس مشارك ومستشار أول (2023/2024–حتى الآن)

شارك كولتر في تأسيس جراي سوان إيه آي — التي سميت على اسم مفهوم المخاطر الكارثية المتوقعة ولكن غير المقدرة — كشركة أمن وسلامة للذكاء الاصطناعي مقرها بيتسبرغ مهمتها الأساسية هي تقوية أنظمة الذكاء الاصطناعي ضد الهجمات العدائية وتقييم سلامة نماذج اللغة الكبيرة على نطاق واسع. يتضمن الناتج البحثي للشركة حزمة nanoGCG، وهو تطبيق مفتوح المصدر خفيف الوزن لخوارزمية GCG. يعمل كولتر كمستشار أول مع احتفاظه بمنصبه في جامعة كارنيجي ميلون.

مجلس إدارة أوبن إيه آي ولجنة السلامة والأمن (أغسطس 2024–حتى الآن)

في 8 أغسطس 2024، أعلنت أوبن إيه آي عن تعيين كولتر في مجلس إدارتها، مع تسميته في الوقت نفسه رئيسًا للجنة السلامة والأمن المشكلة حديثًا. تمتلك اللجنة سلطة تقديم توصيات بشأن قرارات السلامة والأمن الحاسمة لجميع مشاريع أوبن إيه آي، بما في ذلك صلاحية تأخير إصدارات النماذج بانتظار مراجعة السلامة. أشار رئيس مجلس الإدارة بريت تايلور إلى أن كولتر “يضيف فهمًا تقنيًا عميقًا ومنظورًا في مجال سلامة الذكاء الاصطناعي ومتانته.” أدرج المنظمون إشارات إلى وظيفة الرقابة للجنة في اتفاقيات رسمية مع أوبن إيه آي، مما جعل دور كولتر أحد أدوار حوكمة سلامة الذكاء الاصطناعي القليلة التي تتمتع بمكانة تنظيمية موثقة. في عام 2025، تم تسميته أيضًا كمتلقي لتمويل برنامج علوم سلامة الذكاء الاصطناعي من مؤسسة شميدت للعلوم.

المساهمات الرئيسية

  • OptNet — التحسين القابل للتفاضل كطبقة في الشبكات العصبية (ICML 2017، مع براندون آموس) — أول إطار عام لتضمين البرامج التربيعية المقيدة كطبقات شبكة عصبية قابلة للتفاضل؛ قدم حزمة qpth لـ PyTorch وأسس الحقل الفرعي للشبكات التفاضلية الضمنية / التصريحية.
  • شبكات الإدخال المحدب العصبية (ICML 2017، مع آموس) — بنيات تكون مخرجاتها محدبة في مدخلاتها حسب البناء، مما يتيح النماذج القائمة على الطاقة والتنبؤ المنظم بهندسة محدبة مضمونة.
  • الدفاعات القابلة للإثبات عبر متعدد الأسطح العدائية المحدب الخارجي (ICML 2018، مع إريك وونغ) — أول طريقة تسفر عن مصنفات عميقة قوية بشكل قابل للتصديق للشبكات غير التافهة، عبر استرخاء البرمجة الخطية للمنطقة المدخلة العدائية.
  • نماذج التوازن العميق (DEQ) (NeurIPS 2019، مع شوجي باي وفلادلن كولتن) — إعادة صياغة الشبكات العميقة كنقاط ثابتة لتحويل متكرر واحد، تم حلها عبر إيجاد الجذور بذاكرة ثابتة؛ فتحت أدبيات الشبكات العصبية الضمنية.
  • هجوم GCG / الهجمات العدائية العالمية والقابلة للنقل على نماذج اللغة الكبيرة المتوافقة (arXiv 2307.15043، 2023؛ مع أندي زو، زيفان وانغ، نيكولاس كارليني، ميلاد نصر، مات فريدريكسون) — قدم طريقة التدرج الإحداثي الجشع، أول اختراق عالمي آلي لنماذج اللغة المتوافقة؛ أظهر النقل الناجح إلى النماذج المغلقة دون وصول إلى الصندوق الأبيض؛ أصبح خط الأساس المحدد للهجوم لأبحاث الاختراق لنماذج اللغة الكبيرة وأساس جراي سوان إيه آي.
  • لجنة السلامة والأمن في أوبن إيه آي (2024–حتى الآن) — بصفته رئيسًا، لديه السلطة الرسمية للتوصية بتأخير إصدارات النماذج لأسباب تتعلق بالسلامة؛ وهي حالة غير معتادة من أبحاث سلامة الذكاء الاصطناعي التقنية المنفذة مباشرة في حوكمة الشركات مع اعتراف تنظيمي.

الجوائز والتقدير

  • جوائز متعددة لأفضل ورقة بحثية في NeurIPS و ICML و AISTATS — تم الاعتراف به عبر الأماكن التي تنشر فيها مجموعته في أغلب الأحيان؛ السنوات والأوراق المحددة غير مجمعة في مصدر عام واحد.
  • برنامج علوم سلامة الذكاء الاصطناعي من مؤسسة شميدت للعلوم (2025) — تمويل تنافسي يعترف بأبحاث سلامة الذكاء الاصطناعي في مرحلة مبكرة.
  • التعيين في مجلس إدارة أوبن إيه آي (2024) — الاختيار كصوت السلامة التقنية الأساسي في مجلس إدارة شركة الذكاء الاصطناعي الأعلى شهرة في العالم.
  • جائزة NSF CAREER (حوالي 2014–2019، تواريخ تقريبية) — تمويل المرحلة المبكرة من المسيرة المهنية في جامعة كارنيجي ميلون للعمل على فصل الطاقة والتعلم الآلي.

العلاقات الرئيسية

  • أندرو واي نغ — مشرف الدكتوراه في ستانفورد؛ العمل المبكر على الروبوتات، والتنقل، وفصل الطاقة تحت إشراف نغ أسس التوجه الهندسي أولاً والتطبيق الواقعي الذي يسري في جميع أبحاث كولتر اللاحقة.
  • براندون آموس — طالب الدكتوراه الأكثر تأثيرًا لديه؛ شارك في تأليف ورقتَي OptNet و ICNN، اللتين لا تزال أفكارهما تتفرع من خلال البرمجة القابلة للتفاضل؛ آموس الآن في Meta FAIR.
  • أندي زو — طالب دكتوراه ومؤلف مشارك في ورقة GCG؛ ومؤسس مشارك في نفس الوقت لجراي سوان إيه آي؛ أعطى عمل زو على الهجمات العدائية على نماذج اللغة الكبيرة مجموعة كولتر هويتها البحثية الأكثر بروزًا مؤخرًا.
  • شوجي باي — طالب دكتوراه ومؤلف أول لنماذج التوازن العميق؛ يمثل عمل DEQ مساهمة كولتر الأكثر ابتكارًا من الناحية الهيكلية في أدبيات الشبكات الضمنية.
  • مات فريدريكسون — زميل في جامعة كارنيجي ميلون ومؤلف مشارك في ورقة GCG وأبحاث سلامة نماذج اللغة الكبيرة الأوسع؛ باحث في التشفير تحول إلى باحث في الأمن جلب الدقة لصياغة التعلم الآلي العدائي.
  • فلادلن كولتن — عالم في Adobe Research ومؤلف مشارك في DEQs؛ أكمل منظوره للنظم المساهمات النظرية لمختبر Locus.
  • بريا دونتي — طالبة دكتوراه من مجموعته أصبحت صوتًا بارزًا في مجال الذكاء الاصطناعي والمناخ؛ شاركت في تأسيس Climate Change AI؛ عملها على التحسين القابل للتفاضل لأنظمة الطاقة يوسع OptNet لتطبيقات شبكات الطاقة.
  • سام ألتمان / مجلس إدارة أوبن إيه آي — انضم كولتر إلى مجلس إدارة معاد تشكيله يضم أيضًا آدم دينجيلو ولاري سامرز؛ تم تأطير تعيينه صراحة على أنه معالجة فجوة المصداقية في السلامة التقنية التي خلفتها أزمة الحوكمة في نوفمبر 2023.

الأسلوب الشخصي

الجمالية البحثية لكولتر هي واحدة من أكثر الجماليات تماسكًا في التعلم الآلي المعاصر: كل شيء نشره تقريبًا إما (أ) يدمج شيئًا رياضيًا مفهومًا بشكل كلاسيكي — مثل برنامج تربيعي، أو معادلة نقطة ثابتة، أو مجموعة محدبة — داخل شبكة عصبية، أو (ب) يهاجم مسألة متى وما إذا كانت الشبكات العصبية تحقق ضمانات رسمية. ورقة GCG هي أوضح تعبير عن الغريزة الثانية المطبقة على نماذج اللغة: بدلاً من فحص السلامة تجريبيًا، إنها تطرح السؤال كمشكلة تحسين وتحلها. كان انتقاله من الأدوار الأكاديمية إلى أدوار الحوكمة مباشرًا بشكل غير عادي — أدت ورقة GCG على الفور تقريبًا إلى جراي سوان، وأدى ملف جراي سوان إلى التعيين في أوبن إيه آي — مما يعكس إجماعًا مجتمعيًا على أن أوراق اعتماده في مجال السلامة جوهرية وليست أدائية. وهو نادر بشكل ملحوظ بين شخصيات سلامة الذكاء الاصطناعي من حيث أنه نشر كلاً من الهجمات الرئيسية على الأنظمة المتوافقة والدفاعات الرئيسية، مما يمنح مواقفه السياسية خصوصية تقنية تفتقر إليها غالبًا التعليقات النظرية الأكثر حول السلامة.

المراجع