Model cenderung kehilangan konsistensi logika di tengah pembahasan panjang. Hal ini disebabkan keterbatasan memori konteks dan mekanisme pemrosesan sekuensial dalam LLM.
3. Terjebak Infinite Loop
Lauren Williams, profesor matematika Harvard yang ikut dalam penelitian ini, menemukan fenomena unik: AI sering terjebak dalam “infinite loop”.
Pola yang muncul biasanya seperti ini:
- AI memberikan jawaban awal
- AI mengoreksi diri sendiri
- Memberikan jawaban baru
- Mengoreksi lagi
- Terus berulang tanpa solusi final
Kondisi ini menunjukkan bahwa AI belum memiliki mekanisme validasi logika internal yang stabil untuk menyelesaikan persoalan kompleks.
4. AI Tidak Bisa Berdebat
Tamara Kolda dari MathSci.ai menyoroti masalah mendasar lainnya: AI bersifat “Yes Man”.
Menurutnya, kemajuan sains bergantung pada perdebatan ide dan perspektif yang saling menantang. AI hanya mengikuti arah pemikiran pengguna tanpa memberikan kritik konstruktif atau sudut pandang baru yang radikal.
Dalam dunia matematika, diskusi dan perbedaan pendapat sering menjadi pemicu lahirnya teori baru. AI belum mampu memainkan peran tersebut.
Mengapa AI Unggul di Soal Standar Tapi Gagal di Riset?
Large Language Model dilatih menggunakan dataset besar dari internet, termasuk buku, jurnal, dan soal latihan yang sudah memiliki jawaban.
Karena itu, AI sangat baik dalam:
- Menyelesaikan soal dengan pola umum
- Memberikan ringkasan teori
- Menjelaskan konsep dasar
- Membantu perhitungan rutin
Namun, ketika dihadapkan pada persoalan yang belum pernah dipublikasikan, AI kehilangan referensi pola dan mulai menghasilkan jawaban spekulatif.
Dengan kata lain, AI kuat dalam reproduksi pengetahuan, tetapi lemah dalam penciptaan ide baru.
Apakah AI Akan Menggantikan Matematikawan?
Berdasarkan hasil eksperimen ini, jawabannya masih jauh dari kenyataan.
Hairer menegaskan bahwa matematika adalah disiplin yang membutuhkan:
- Kreativitas konseptual
- Intuisi abstrak
- Kemampuan membangun teori dari nol
- Diskusi kritis dengan sesama peneliti
AI saat ini belum menunjukkan kemampuan orisinalitas tersebut.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, pengembangan proyek open-source seperti Neural Standby Kernel (NSK), lifestyle, dan zodiak. Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
