منظمة العفو الدولية وهيكل الثورات العلمية – أورايلي

إن منشور المدونة من تأليف Thomas Wolf “نموذج Einstein AI” أمر لا بد منه. إنه يتناقض مع تفكيره بما نحتاجه من الذكاء الاصطناعي ، مع “آلات” المحبة “.¹ حجة وولف هي أن نماذج الصوت الأكثر تقدماً لدينا لا تخلق شيئًا جديدًا. إنها تجمع فقط بين الأفكار القديمة ، والعبارات القديمة ، والكلمات القديمة بعد النماذج الاحتمالية. هذه العملية غير قادرة على إجراء اكتشافات جديدة مهمة. يسرد الذئب نظام الطاقة الشمسية الحلزونية من كوبرنيكوس ، ونظرية آينشتاين للنسبية ودوداس كريسبر كأمثلة على الاكتشافات التي تتجاوز بكثير إعادة التركيب. مما لا شك فيه ، يمكن تضمين العديد من الاكتشافات الأخرى: Keplers ، Newton وكل شيء أدى إلى ميكانيكا الكم ، بدءًا من حل مشكلة الجسم الأسود.

يعكس قلب حجة وولف وجهة نظر التقدم الذي يعتبره توماس كون هيكل الثورات العلمية. يصف وولف ما يحدث عندما يتم تحرير العملية العلمية لـ “العلم الطبيعي” (مصطلح Kuhn) لصالح نموذج جديد ، وهو أمر لا يمكن تصوره للعلماء الذين سبق أن أخذوا. كيف يمكن لنظرية النسبية والنظرية الكمومية أن تكون منطقية للعلماء على أساس الميكانيكا النيوتونية ، وهو إطار فكري يمكن أن يفسر كل ما نعرفه تقريبًا عن العالم المادي ، باستثناء مشكلة الجسم الأسود وسبق الزئبق؟

تشبه حجة وولف الحجة حول إمكانات إبداع الذكاء الاصطناعي في الموسيقى والفنون الأخرى. الملحنين الكبار لا يعودون فقط ما حدث من قبل. يضعون التقاليد ويفعلون شيئًا جديدًا يتضمن أجزاء من ما هو متاح سابقًا ، والذي لم يكن من الممكن التنبؤ به أبدًا. وينطبق الشيء نفسه على الشعراء والمؤلفين والرسامين الجدد: من الضروري الانفصال عن الماضي ، لكتابة شيء لا يمكن كتابته مسبقًا لجعله جديدًا.

في الوقت نفسه ، فإن الكثير من العلم الجيد هو “العلم الطبيعي” لكون. بمجرد أن يكون لديك النسبية ، عليك معرفة التأثيرات. عليك إجراء التجارب. وعليك معرفة أين يمكنك أخذ نتائج الأوراق A و B ، لتكون قادرًا على خلط وتحقيق النتيجة C ، وهي مفيدة ومهمة بطريقتها الخاصة. لم يكن انفجار الإبداع الذي أدى إلى ميكانيكا الكم (Bohr ، Planck ، Schrödinger ، Dirac ، Heisenberg ، Feynman وغيرهم) مجرد عشرات الفيزياء الذين قاموا بعمل ثوري. يتطلب الأمر الآلاف التي جاءت بعد ذلك لربط الأطراف الفضفاضة ، لمطابقة الأجزاء المفقودة والتحقق من صحة النظريات (وتمديدها). هل نعتني بأينشتاين إذا لم يكن لدينا قياسات Eddington في الكسوف الشمسي لعام 1919؟ أم أن نظرية النسبية قد سقطت على المسار ، ربما استعادت عشرات أو مائة عام؟

وينطبق الشيء نفسه على الفنون: قد يكون هناك واحد فقط من بيتهوفن أو موزارت أو مونك ، ولكن هناك الآلاف من الموسيقيين الذين ابتكروا الموسيقى الذين سمعوا واستمتعوا بأشخاص والذين تم نسيانهم الآن لأنهم لم يفعلوا شيئًا ثوريًا. الاستماع إلى الموسيقى الثورية حقًا 24-7 سيكون لا يطاق. في مرحلة ما يريدون شيئًا آمنًا ؛ شيء ليس تحديا.

نحتاج إلى منظمة العفو الدولية التي يمكنها القيام بكل من “العلم الطبيعي” والعلوم التي تخلق نماذج جديدة. لدينا بالفعل السابق أو على الأقل نحن قريبون. ولكن كيف يمكن أن يبدو هذا النوع الآخر من الذكاء الاصطناعي؟ سيكون الأمر صعبًا هنا – ليس فقط لأننا لا نعرف كيفية بنائه ، ولكن لأن هذه الذكاء الاصطناعى قد تحتاج إلى نموذج جديد. سوف يتصرف بشكل مختلف عن أي شيء لدينا الآن.

على الرغم من أنني كنت متشككًا ، إلا أنني أبدأ في الاعتقاد بأن كي قد يعتقد ذلك. لقد جادلت أن المميزة – ربما تكون أهم ميزة – هي الذكاء البشري الذي لا يمكن أن يحاكيه الذكاء الاصطناعي الحالي ، ويل ، سوف ، القدرة على فعل شيء ما. يمكن أن يلعب Alphago ، لكن لا يمكنه ذلك يريد يذهب. الإرادة هي سمة من سمات التفكير الثوري ، المعروف بالفعل ، تتجاوز إعادة التركيب البسيط وترغب في اتباع طريقة للتفكير في عواقبه الأكثر شمولاً.

قد نحصل بالفعل على بعض الأفكار حول هذا الذكاء الاصطناعي الجديد. لقد رأينا بالفعل بعض الأمثلة الغريبة عن عيوب الذكاء الاصطناعي التي تتجاوز الحقن السريع أو نتحدث عن روبوت الدردشة حتى تكون شقيًا. في الدراسات الحديثة ، يناقشون حالات المخطط والمحاذاة التي تخلق فيها LLMs نتائج ضارة ، ربما بسبب التعارضات الدقيقة بين طلبات النظام المختلفة. أظهرت دراسة أخرى أن نماذج الجدال مثل Openaai O1-Priow سيتم خداعها في لعبة الشطرنج للفوز²؛ الطرز القديمة مثل GPT-4O لن تفعل ذلك. هل الاحتيال مجرد خطأ في حجة الذكاء الاصطناعي أو شيء جديد؟ لقد تواصلت مع السلوك التعدي. هل يمكن أن تكون هذه علامة على الذكاء الاصطناعي الذي يمكن أن يريد شيئًا؟

عندما أكون على المسار الصحيح ، يجب أن نكون على دراية بالمخاطر. بالنسبة للجزء الأكبر ، قال تفكيري في المخاطر مع أندرو نغ ، الذي قال ذات مرة ، إن المخاوف بشأن الروبوتات القاتلة كانت لها علاقة بالسكان على المريخ. (لقد شعرت NG بالقلق منذ ذلك الحين.) هناك أضرار حقيقية وملموسة يتعين علينا الآن التفكير في ليس حول المخاطر الافتراضية التي تأتي من الخيال العلمي. لكن الذكاء الاصطناعى الذي يمكن أن يخلق نماذج جديدة يجلب مخاطره الخاصة ، خاصة إذا كان هذا الخطر ينشأ من نوع من الإرادة الناشئة.

هذا لا يعني تجنب المخاطر ورفض شيء يعتبر محفوفًا بالمخاطر. ولكن هذا يعني أيضًا فهم والسيطرة على ما نبنيه. ما زلت أقل قلقًا بشأن منظمة العفو الدولية التي يمكن أن تخبر الشخص كيف يخلق فيروسًا أكثر من الشخص الذي يقرر صنع هذا الفيروس في المختبر. (لدى الطبيعة الأم عدة مليارات سنة من الخبرة في بناء الفيروسات القاتلة. مع كل المواقف السياسية لـ Covid ، فهي أبعد ما يكون عن أفضل دليل على أنه من أصل طبيعي)

الذئب على حق. على الرغم من أن الذكاء الاصطناعى ، الذي لا يعاد ترجمة إلا ، سيكون بالتأكيد مساعدة للعلوم إذا كنا نريد العلم الرائد ، علينا أن نتجاوز إعادة التركيب إلى ما وراء النماذج التي يمكن أن تولد نماذج جديدة مع كل شيء آخر يجب أن يفعله. كما كتب شكسبير: “يا عالم جديد شجاع ليس له هؤلاء الناس.” هذا هو العالم الذي نبنيه والعالم الذي نعيش فيه.

حاشية

1. نشرت VentureBeat ملخصًا ممتازًا مع الاستنتاجات التي قد لا تكون مختلفة تمامًا.
2. إذا سألت نفسك كيف يمكن أن تفقد الذكاء الاصطناعى ألعاب الشطرنج ، تذكر أن أسماك البورصة والنماذج الأخرى الخاصة بالشطرنج أقوى بكثير من أفضل النماذج الرائعة.