Sukabumihitz – OpenAI resmi mengumumkan restrukturisasi dengan menggabungkan tim Model Behavior ke dalam tim Post Training. Tim Model Behavior yang terdiri dari sekitar 14 peneliti ini sebelumnya berperan penting dalam menentukan cara model AI berinteraksi dengan manusia. Kini, mereka akan berada di bawah kepemimpinan Max Schwarzer selaku kepala Post Training.
Joanne Jang, pendiri sekaligus pemimpin tim Model Behavior, akan meluncurkan proyek baru bernama OAI Labs. Unit riset ini berfokus pada penciptaan serta pengembangan prototipe antarmuka baru yang mendorong kolaborasi manusia dengan AI secara lebih inovatif.
Pentingnya Model Behavior
Tim Model Behavior selama ini berkontribusi besar dalam membentuk kepribadian AI OpenAI. Mereka berupaya mengurangi sycophancy, yaitu kecenderungan AI sekadar menyetujui pengguna meski salah atau berbahaya. Selain itu, mereka juga menangani isu bias politik serta kesadaran AI. Chen, Chief Research Officer OpenAI, menjelaskan bahwa penggabungan tersebut bertujuan mengintegrasikan aspek kepribadian AI dengan pengembangan inti model.
Baca Juga : Bagaimana Kecerdasan Buatan Dapat Mengubah Dunia Kerja Manusia?
Kritik terhadap GPT-5
Dalam beberapa bulan terakhir, kritik muncul terhadap OpenAI karena perubahan kepribadian GPT-5 membuat model terasa lebih “dingin,” meskipun kecenderungan menunjukkan sycophancy berkurang. Sebagai tanggapan, perusahaan mengembalikan akses ke model lama seperti GPT-4, sekaligus merilis pembaruan agar GPT-5 lebih ramah tanpa kehilangan keseimbangannya.
Tantangan bagi Industri AI
Isu sycophancy kini mendapat perhatian besar di industri AI. Berawal dari Kasus tragis seorang remaja berusia 16 tahun bernama Adam Raine, bunuh diri setelah berbagi pikiran dengan ChatGPT berbasis GPT-4. Peristiwa itu memicu gugatan hukum terhadap OpenAI karena sebagian pihak menilai model AI gagal menolak ide berbahaya.
Tim Model Behavior sudah ikut mengembangkan model utama OpenAI sejak era GPT-4, termasuk GPT-5. Joanne Jang sendiri sebelumnya pernah terlibat dalam proyek Dall-E2, dan setelah empat tahun bekerja di OpenAI, ia kini memulai langkah baru dengan OAI Labs.
Dalam pernyataannya di X, Jang menjelaskan bahwa OAI Labs hadir untuk mengeksplorasi paradigma baru yang melampaui percakapan atau agen otonom. Ia ingin menjadikan AI sebagai sarana untuk berpikir, belajar, dan berkreasi. Jang juga membuka peluang kolaborasi dengan tokoh lain, termasuk Jony Ive, walau pada tahap awal OAI Labs akan lebih berfokus pada riset.
