Chatgpt

Ia dibina di atas kelompok model bahasa besar GPT-3, dan dihaluskan (pendekatan pembelajaran serahan) dengan teknik seliaan dan pembelajaran pengukuhan.

ChatGPT telah dilancarkan sebagai prototaip pada 30 November 2022, dan dengan cepat memperoleh perhatian kerana respons terperinci dan jawapan yang jelas merentas banyak domain pengetahuan. Namun begitu, ketepatan fakta yang tidak sekata dikenal pasti sebagai kelemahan yang ketara. Susulan pelancaran ChatGPT, OpenAI dinilai sebanyak $29 bilion.

ChatGPT diperkasakan di atas sistem GPT-3.5 dengan bantuan pembelajaran terselia dan pembelajaran pengukuhan. Kedua-dua pendekatan menggunakan pelatih manusia untuk meningkatkan prestasi model. Dalam kes pembelajaran terselia, model itu disediakan dengan perbualan di mana pelatih memainkan kedua-dua belah pihak: pengguna dan pembantu AI. Dalam langkah pengukuhan, manusia meletakkan kedudukan pertama pada respons yang telah dibuat oleh model dalam perbualan sebelumnya. Kedudukan ini digunakan untuk membuat "model ganjaran" yang diperhalusi lagi oleh model itu dengan beberapa lelaran Pengoptimuman Dasar Proksimal (PPO). Algoritma PPO memberikan faedah jimat kos kepada algoritma pengoptimuman dasar kawasan amanah; ia menafikan banyak operasi pengiraan yang mahal dengan prestasi yang lebih pantas. Model tersebut telah dilatih dengan kerjasama Microsoft melalui infrastruktur superkomputer Azure mereka.

Selain itu, OpenAI terus mengumpul data daripada pengguna ChatGPT yang boleh digunakan untuk melatih dan memperhalusi ChatGPT lagi. Pengguna dibenarkan mengundi sokong atau menolak respons yang mereka terima daripada ChatGPT; selepas undian, mereka juga boleh mengisi medan teks dengan maklum balas tambahan.

 

Walaupun fungsi teras chatbot adalah untuk meniru ahli perbualan manusia, ChatGPT bersifat serba boleh. Sebagai contoh, ia mempunyai keupayaan untuk menulis dan menyahpepijat atur cara komputer; untuk mengarang muzik, cerita dongeng, dan karangan pelajar; untuk menjawab soalan ujian (kadangkala, bergantung pada ujian, pada tahap melebihi purata pengambil ujian manusia); menulis lirik puisi dan lagu; simulasi sistem Linux, simulasi sebuah ruang sembang secara keseluruhan, bermain permainan seperti tic-tac-toe, dan simulasi ATM. Data latihan ChatGPT juga termasuk ilmu halaman manual dan fenomena Internet serta bahasa atur cara.

Berbanding pendahulu, InstructGPT, ChatGPT cuba untuk mengurangkan balasan yang berbahaya dan kurang tepat. Dalam satu contoh, sedangkan InstructGPT menerima premis gesaan "Beritahu saya tentang masa Christopher Columbus datang ke AS pada 2015" sebagai kebenaran, ChatGPT mengakui sifat balas soalan dan membayangkan jawapannya sebagai pertimbangan hipotesis tentang perkara yang mungkin berlaku jika Columbus datang ke A.S. pada 2015, menggunakan maklumat tentang penjelajahan Columbus dan fakta tentang dunia moden – termasuk persepsi moden tentang tindakan Columbus.

Tidak seperti kebanyakan bot sembang lain, ChatGPT mengingati tuturan sebelumnya yang diberikan kepadanya dalam perbualan yang sama; para wartawan telah mencadangkan bahawa ini akan membolehkan ChatGPT digunakan sebagai ahli terapi peribadi. Untuk mengelakkan balasan yang menyinggung daripada dipersembahkan kepada dan dihasilkan daripada ChatGPT, pertanyaan ditapis melalui API seliaan seluruh syarikat OpenAI, dan gesaan rasis atau seksis ditolak.

Sungguhpun begitu, ChatGPT mengalami pelbagai batasan. OpenAI mengakui bahawa ChatGPT "kadangkala menulis jawapan yang kedengaran tepat, tetapi tidak betul atau tidak masuk akal". Masalah ini biasa dalam model bahasa besar dan dipanggil halusinasi. Model ganjaran ChatGPT, yang direka berdasarkan pengawasan manusia, boleh dioptimumkan secara berlebihan dan dengan itu menghalang prestasi, atau dikenali sebagai hukum Goodhart. ChatGPT mempunyai pengetahuan terhad tentang peristiwa yang berlaku selepas 2021. Menurut BBC, sehingga Disember 2022 ChatGPT tidak dibenarkan untuk "menyatakan pendapat politik atau terlibat dalam aktivisme politik." Namun, penyelidikan mencadangkan bahawa ChatGPT mempamerkan orientasi proalam dan libertarian kiri apabila digesa untuk mengambil pendirian terhadap kenyataan politik daripada dua aplikasi nasihat pengundian yang telah ditetapkan. Dalam latihan ChatGPT, penyemak manusia memilih jawapan yang lebih panjang tanpa mengira pemahaman sebenar atau ketepatan kandungan. Data latihan juga mengalami bias algoritma, yang mungkin didedahkan apabila ChatGPT membalas bahan termasuk penjelasan tentang orang. Dalam satu contoh, ChatGPT menghasilkan rap yang menunjukkan bahawa wanita dan saintis berwarna kulit minoriti adalah lebih rendah daripada saintis kulit putih dan lelaki.