Lompat ke isi

Pentransformasi praterlatih generatif

Dari Wikipedia bahasa Indonesia, ensiklopedia bebas
Bagian dari seri
Pemelajaran mesin
dan Penggalian Data
Ilustrasi Jaringan saraf tiruan
Paradigma
Masalah
Kekelompokkan
Reduksi dimensionalitas
Jaringan saraf tiruan
Diagnostik model
Model GPT asli

Pentransformasi praterlatih generatif (PPG), umum dikenal sebagai Generative pre-trained transformer (GPT), adalah jenis model bahasa besar (LLM)[1][2][3] yang banyak digunakan dalam bot obrolan AI generatif.[4][5] GPT didasarkan pada arsitektur pemelajaran dalam yang disebut transformer (pentransformasi). Model ini dipralatih pada kumpulan data besar berisi konten tidak berlabel, dan mampu menghasilkan konten baru.[2][3]

OpenAI adalah yang pertama menerapkan pralatih generatif (GP) pada arsitektur transformer (pentransformasi), dengan memperkenalkan model GPT-1 pada tahun 2018.[6] Perusahaan ini telah merilis banyak model GPT yang lebih besar. Bot obrolan populer ChatGPT, yang dirilis pada akhir 2022 (menggunakan GPT-3.5), diikuti oleh banyak bot obrolan pesaing yang menggunakan model "GPT" mereka sendiri untuk menghasilkan teks, seperti Gemini, DeepSeek atau Claude.[7]

GPT terutama digunakan untuk menghasilkan teks, tetapi dapat dilatih untuk menghasilkan jenis data lain. Sebagai contoh, GPT-4o dapat memproses dan menghasilkan teks, gambar, dan audio.[8] Untuk meningkatkan kinerja pada tugas-tugas kompleks, beberapa GPT, seperti OpenAI o3, menghabiskan lebih banyak waktu untuk menganalisis masalah sebelum menghasilkan keluaran, dan disebut model penalaran. Pada tahun 2025, GPT-5 dirilis dengan perute (router) yang secara otomatis memilih apakah akan menggunakan model yang lebih cepat atau model penalaran yang lebih lambat berdasarkan tugas.

Latar belakang

[sunting | sunting sumber]

Menurut The Economist, algoritma yang lebih baik, komputer yang lebih kuat, dan peningkatan jumlah materi digital mendorong revolusi dalam pemelajaran mesin selama tahun 2010-an. Teknik baru di tahun-tahun sebelum ledakan AI menghasilkan "peningkatan pesat dalam berbagai tugas", termasuk memanipulasi bahasa.[9] Model perangkat lunak modern dilatih untuk belajar dengan menggunakan jutaan contoh dalam jaringan saraf tiruan yang terinspirasi oleh struktur saraf biologis.[9]

Secara terpisah, konsep pralatih generatif (GP) merupakan teknik yang telah lama ada dalam pemelajaran mesin. GP adalah bentuk pemelajaran swa-awars saat sebuah model pertama-tama dilatih pada kumpulan data besar yang tidak berlabel (langkah "pralatih") untuk belajar menghasilkan titik data. Model yang telah dipralatih ini kemudian diadaptasi ke tugas tertentu menggunakan kumpulan data berlabel (langkah "penyetelan halus").[10]

Arsitektur transformer (pentransformasi) untuk pemelajaran dalam adalah teknologi inti dari GPT. Dikembangkan oleh para peneliti di Google, arsitektur ini diperkenalkan dalam makalah "Attention Is All You Need", yang diterbitkan pada 12 Juni 2017. Arsitektur transformer (pentransformasi) memecahkan banyak masalah kinerja yang terkait dengan desain jaringan saraf berulang (RNN) yang lebih tua untuk pengolahan bahasa alami (NLP). Penggunaan mekanisme perhatian oleh arsitektur ini memungkinkan model memproses seluruh urutan teks sekaligus, sehingga memungkinkan pelatihan model yang jauh lebih besar dan lebih canggih. Sejak 2017, berbagai sistem NLP berbasis transformer (pentransformasi) telah tersedia yang mampu memproses, menambang, mengatur, menghubungkan, membandingkan, dan meringkas teks serta menjawab pertanyaan dari masukan tekstual dengan benar.[11][12]

Sejarah

[sunting | sunting sumber]

Pada 11 Juni 2018, para peneliti dan insinyur OpenAI menerbitkan sebuah makalah berjudul "Improving Language Understanding by Generative Pre-Training", yang memperkenalkan GPT-1, model GPT pertama.[13] Model ini dirancang sebagai model bahasa besar berbasis transformer (pentransformasi) yang menggunakan pralatih generatif (GP) pada BookCorpus, sebuah korpus teks yang beragam, diikuti oleh penyetelan halus diskriminatif untuk fokus pada tugas-tugas bahasa tertentu.[14] Pendekatan semi-terbimbing ini dipandang sebagai sebuah terobosan. Sebelumnya, model saraf berkinerja terbaik dalam pengolahan bahasa alami (NLP) umumnya menggunakan pemelajaran terbimbing dari sejumlah besar data berlabel manual – melatih model bahasa besar dengan pendekatan ini akan sangat mahal dan memakan waktu.[13]

Pada 14 Februari 2019, OpenAI memperkenalkan GPT-2, model yang lebih besar yang dapat menghasilkan teks yang koheren. Dibuat sebagai peningkatan skala langsung dari pendahulunya, jumlah parameter dan ukuran kumpulan datanya ditingkatkan sebesar 10 kali lipat. GPT-2 memiliki 1,5 miliar parameter dan dilatih pada WebText, kumpulan data 40 gigabita dari 8 juta halaman web.[15][16][17] Dengan alasan risiko penggunaan berbahaya, OpenAI memilih "rilis bertahap", awalnya menerbitkan versi model yang lebih kecil sebelum merilis model penuh 1,5 miliar parameter pada bulan November.[18]

Pada 10 Februari 2020, Microsoft memperkenalkan Turing Natural Language Generation, yang diklaimnya sebagai "model bahasa terbesar yang pernah diterbitkan dengan 17 miliar parameter." Model ini mengungguli semua model bahasa sebelumnya dalam berbagai tugas, termasuk meringkas teks dan menjawab pertanyaan.[19]

Pada 28 Mei 2020, OpenAI memperkenalkan GPT-3, sebuah model dengan 175 miliar parameter yang dilatih pada kumpulan data yang lebih besar dibandingkan dengan GPT-2. Ini menandai kemajuan signifikan dalam kemampuan belajar few-shot dan zero-shot. Dengan sedikit contoh, model ini dapat melakukan berbagai tugas yang tidak dilatih secara eksplisit untuknya.[20][21]

Setelah perilisan GPT-3, OpenAI mulai menggunakan pemelajaran penguatan dari umpan balik manusia (RLHF) untuk menyelaraskan perilaku model agar lebih sesuai dengan preferensi manusia. Hal ini mengarah pada pengembangan InstructGPT, versi GPT-3 yang telah disempurnakan. OpenAI menyempurnakan InstructGPT lebih lanjut untuk menciptakan ChatGPT, produk bot obrolan andalan OpenAI yang diluncurkan pada 30 November 2022.[22] ChatGPT awalnya didasarkan pada GPT-3.5, tetapi kemudian dialihkan ke model GPT-4, yang dirilis pada 14 Maret 2023.[23][24] GPT-4 juga diintegrasikan ke dalam beberapa aplikasi, termasuk Microsoft Copilot, GitHub Copilot, Snapchat, Khan Academy, dan Duolingo.[25]

Popularitas besar ChatGPT mendorong pengembangan luas sistem berbasis GPT yang bersaing dari organisasi lain. EleutherAI merilis serangkaian model berbobot terbuka, termasuk GPT-J pada tahun 2021. Perusahaan teknologi besar lainnya kemudian mengembangkan model GPT mereka sendiri, seperti PaLM dan Gemini dari Google serta Llama dari Meta AI.[26]

Banyak model GPT berikutnya telah dilatih untuk menjadi multimodal (mampu memproses atau menghasilkan berbagai jenis data). Sebagai contoh, GPT-4o dapat memproses dan menghasilkan teks, gambar, dan audio.[27] Selain itu, model GPT seperti o3 dan DeepSeek R1 telah dilatih dengan pemelajaran penguatan untuk menghasilkan penalaran rantai pemikiran (chain-of-thought) multi-langkah sebelum menghasilkan jawaban akhir, yang membantu memecahkan masalah kompleks dalam domain seperti matematika.[28]

Pada 7 Agustus 2025, OpenAI merilis GPT-5, yang mencakup perute (router) yang secara otomatis memilih apakah akan menggunakan model yang lebih cepat atau model penalaran yang lebih lambat berdasarkan tugas.[29][30]

Model dasar

[sunting | sunting sumber]

Sebuah model dasar adalah model AI yang dilatih pada data luas dalam skala besar sehingga dapat diadaptasi ke berbagai tugas hilir (downstream).[31][32]

Sejauh ini, model dasar GPT yang paling terkenal berasal dari seri GPT-n OpenAI. Yang terbaru adalah GPT-5.[33]

Model lain semacam itu termasuk PaLM dari Google, model dasar luas yang telah dibandingkan dengan GPT-3 dan telah tersedia bagi pengembang melalui API,[34][35] dan GPT-JT dari Together, yang dilaporkan sebagai alternatif sumber terbuka dengan kinerja paling mendekati GPT-3 (dan berasal dari GPT sumber terbuka sebelumnya).[36] Meta AI (sebelumnya Facebook) juga memiliki model bahasa besar dasar berbasis transformer (pentransformasi) generatif, yang dikenal sebagai LLaMA.[37]

GPT dasar juga dapat menggunakan modalitas selain teks, untuk masukan dan/atau keluaran. GPT-4 adalah LLM multi-modal yang mampu memproses masukan teks dan gambar (meskipun keluarannya terbatas pada teks).[38] Mengenai keluaran multimodal, beberapa model berbasis transformer (pentransformasi) generatif digunakan untuk teknologi teks-ke-gambar seperti difusi[39] dan pendekodean paralel.[40] Model semacam ini dapat berfungsi sebagai model dasar visual (VFM) untuk mengembangkan sistem hilir yang dapat bekerja dengan gambar.[41]

Model tugas-spesifik

[sunting | sunting sumber]
Alur kerja pelatihan rilis asli ChatGPT/InstructGPT[42][43]

Model GPT dasar dapat diadaptasi lebih lanjut untuk menghasilkan sistem yang lebih tertarget yang diarahkan ke tugas dan/atau domain materi pelajaran tertentu. Metode untuk adaptasi semacam itu dapat mencakup penyetelan halus tambahan (di luar yang dilakukan untuk model dasar) serta bentuk-bentuk tertentu dari rekayasa prompt.[44]

Contoh pentingnya adalah penyetelan halus model untuk mengikuti instruksi, yang tentu saja merupakan tugas yang cukup luas tetapi lebih tertarget daripada model dasar. Pada Januari 2022, OpenAI memperkenalkan "InstructGPT" – serangkaian model yang disempurnakan untuk mengikuti instruksi menggunakan kombinasi pelatihan terbimbing dan pemelajaran penguatan dari umpan balik manusia (RLHF) pada model bahasa GPT-3 dasar.[45][46] Keunggulan yang dimiliki ini dibandingkan model dasar murni termasuk akurasi yang lebih tinggi, sentimen negatif/toksik yang lebih sedikit, dan keselarasan yang umumnya lebih baik dengan kebutuhan pengguna. Oleh karena itu, OpenAI mulai menggunakan ini sebagai dasar untuk penawaran layanan API mereka.[47] Model yang disetel instruksi lainnya telah dirilis oleh pihak lain, termasuk versi yang sepenuhnya terbuka.[48][49]

Jenis model tugas-spesifik lainnya (yang terkait) adalah bot obrolan, yang terlibat dalam percakapan mirip manusia. Pada November 2022, OpenAI meluncurkan ChatGPT – antarmuka obrolan daring yang didukung oleh model bahasa yang disetel instruksi yang dilatih dengan cara yang mirip dengan InstructGPT.[50] Mereka melatih model ini menggunakan RLHF, dengan pelatih AI manusia menyediakan percakapan yang mereka perankan sebagai pengguna dan AI, dan mencampurkan kumpulan data dialog baru ini dengan kumpulan data InstructGPT untuk format percakapan yang cocok untuk bot obrolan. Bot obrolan utama lainnya saat ini termasuk Bing Chat dari Microsoft, yang menggunakan GPT-4 OpenAI (sebagai bagian dari kolaborasi erat yang lebih luas antara OpenAI dan Microsoft),[51] dan bot obrolan pesaing dari Google, Gemini (awalnya didasarkan pada keluarga model bahasa LaMDA mereka yang dilatih untuk percakapan, dengan rencana untuk beralih ke PaLM).[52]

Jenis tugas lain yang dapat digunakan GPT adalah tugas-meta untuk menghasilkan instruksi sendiri, seperti mengembangkan serangkaian prompt untuk 'dirinya sendiri' agar dapat mewujudkan tujuan yang lebih umum yang diberikan oleh pengguna manusia.[53] Ini dikenal sebagai agen AI, dan lebih spesifik lagi agen rekursif karena menggunakan hasil dari instruksi mandiri sebelumnya untuk membantunya membentuk prompt berikutnya; contoh utama pertama dari ini adalah Auto-GPT (yang menggunakan model GPT OpenAI), dan yang lainnya juga telah dikembangkan.[54]

Spesifisitas domain

[sunting | sunting sumber]

Sistem GPT dapat diarahkan ke bidang atau domain tertentu. Beberapa contoh model dan aplikasi yang dilaporkan adalah sebagai berikut:

  • EinsteinGPT – untuk domain penjualan dan pemasaran, untuk membantu manajemen hubungan pelanggan (menggunakan GPT-3.5)[55][56]
  • BloombergGPT – untuk domain keuangan, untuk membantu berita dan informasi keuangan (menggunakan metode AI "tersedia secara bebas", dikombinasikan dengan data kepemilikan mereka)[57]
  • Khanmigo – digambarkan sebagai versi GPT untuk bimbingan belajar, dalam domain pendidikan, ini membantu siswa yang menggunakan Khan Academy dengan membimbing mereka melalui studi mereka tanpa memberikan jawaban secara langsung (didukung oleh GPT-4)[58][59]
  • SlackGPT – untuk layanan pesan instan Slack, untuk membantu menavigasi dan meringkas diskusi di dalamnya (menggunakan API OpenAI)[60]
  • BioGPT – untuk domain biomedis, untuk membantu pembuatan dan penambangan teks literatur biomedis (menggunakan GPT-2)[61]

Terkadang spesifisitas domain dicapai melalui colokan (plug-in) atau pengaya (add-on) perangkat lunak. Sebagai contoh, beberapa perusahaan berbeda telah mengembangkan colokan khusus yang berinteraksi langsung dengan antarmuka ChatGPT OpenAI,[62][63] dan Google Workspace memiliki pengaya yang tersedia seperti "GPT for Sheets and Docs" – yang dilaporkan membantu penggunaan fungsionalitas lembar sebar (spreadsheet) di Google Sheets.[64][65]

Masalah merek

[sunting | sunting sumber]

OpenAI, yang menciptakan pentransformasi praterlatih generatif (PPG) atau generative pre-trained transformer (GPT) pertama pada tahun 2018, menegaskan pada tahun 2023 bahwa "GPT" harus dianggap sebagai merek OpenAI.[66] Pada April 2023, OpenAI merevisi pedoman merek dalam ketentuan layanan mereka untuk menunjukkan bahwa bisnis lain yang menggunakan API mereka untuk menjalankan layanan AI mereka tidak lagi diizinkan untuk menyertakan "GPT" dalam nama atau pencitraan merek tersebut.[67] Pada Mei 2023, OpenAI menggunakan layanan manajemen merek untuk memberi tahu pelanggan API mereka tentang kebijakan ini, meskipun pemberitahuan ini tidak sampai membuat klaim hukum terbuka (seperti tuduhan pelanggaran merek dagang atau tuntutan untuk berhenti dan menghentikan).[66] Per November 2023, OpenAI masih melarang pemegang lisensi API-nya untuk menamai produk mereka sendiri dengan "GPT",[68] tetapi mereka telah mulai memungkinkan pelanggan ChatGPT Plus untuk membuat "versi kustom ChatGPT" yang disebut GPTs di situs OpenAI.[69] Ketentuan layanan OpenAI menyatakan bahwa pelanggannya dapat menggunakan "GPT" dalam nama-nama ini, meskipun "tidak dianjurkan".[68]

Terkait hal ini, OpenAI telah mengajukan permohonan ke Kantor Paten dan Merek Dagang Amerika Serikat (USPTO) untuk mendapatkan pendaftaran merek dagang domestik untuk istilah "GPT" di bidang AI.[66] OpenAI berusaha mempercepat penanganan permohonannya, tetapi USPTO menolak permintaan tersebut pada April 2023.[70] Pada Mei 2023, USPTO menanggapi permohonan tersebut dengan penetapan bahwa "GPT" bersifat deskriptif dan generik.[71] Per November 2023, OpenAI terus melanjutkan argumennya melalui proses yang tersedia. Meskipun demikian, kegagalan untuk mendapatkan merek dagang AS yang terdaftar tidak menghalangi adanya tingkat tertentu hak merek dagang common-law di Amerika Serikat[72] dan hak merek dagang di negara lain.[73]

Untuk semua jenis atau lingkup perlindungan merek dagang di AS, OpenAI perlu menetapkan bahwa istilah tersebut benar-benar "distingtif" untuk penawaran spesifik mereka selain menjadi istilah teknis yang lebih luas untuk jenis teknologi tersebut. Beberapa laporan media pada tahun 2023 menyarankan bahwa OpenAI mungkin dapat memperoleh pendaftaran merek dagang secara tidak langsung berdasarkan ketenaran produk bot obrolan berbasis GPT mereka, ChatGPT,[70][74] yang untuknya OpenAI telah secara terpisah mencari perlindungan (dan yang telah berusaha mereka tegakkan dengan lebih kuat).[75] Laporan lain telah mengindikasikan bahwa pendaftaran untuk istilah "GPT" saja tampaknya tidak mungkin diberikan,[66][76] karena istilah ini sering digunakan sebagai istilah umum untuk merujuk pada sistem AI yang melibatkan generative pre-trained transformer.[3][77][78][79] Bagaimanapun, sejauh mana pun hak eksklusif atas istilah tersebut dapat terjadi di AS, pihak lain perlu menghindarinya untuk produk atau layanan serupa dengan cara yang cenderung menyebabkan kebingungan.[76][80] Jika hak-hak tersebut menjadi cukup luas untuk melibatkan penggunaan lain yang sudah mapan di bidang tersebut, doktrin merek dagang penggunaan wajar deskriptif masih dapat melanjutkan penggunaan yang tidak terkait dengan merek.[81]

Di Uni Eropa, Kantor Kekayaan Intelektual Uni Eropa mendaftarkan "GPT" sebagai merek dagang OpenAI pada musim semi 2023. Namun, sejak musim semi 2024, pendaftaran tersebut sedang ditantang dan menunggu pembatalan.[82]

Di Swiss, Institut Federal Swiss untuk Kekayaan Intelektual mendaftarkan "GPT" sebagai merek dagang OpenAI pada musim semi 2023.[83][84]

Lihat pula

[sunting | sunting sumber]

Referensi

[sunting | sunting sumber]
  1. ↑ Haddad, Mohammed. "How does GPT-4 work and how can you start using it in ChatGPT?". Al Jazeera. Diarsipkan dari versi aslinya tanggal 5 Juli 2023. Diakses tanggal 10 April 2023.
  2. 1 2 "Generative AI: a game-changer society needs to be ready for". World Economic Forum. 9 Januari 2023. Diarsipkan dari versi aslinya tanggal 25 April 2023. Diakses tanggal 8 April 2023.
  3. 1 2 3 "The A to Z of Artificial Intelligence". Time. 13 April 2023. Diarsipkan dari versi aslinya tanggal 16 Juni 2023. Diakses tanggal 14 April 2023.
  4. ↑ Hu, Luhui (15 November 2022). "Generative AI and Future". Medium. Diarsipkan dari versi aslinya tanggal 5 Juni 2023. Diakses tanggal 29 April 2023.
  5. ↑ "CSDL | IEEE Computer Society". IEEE Computer Society. Diarsipkan dari versi aslinya tanggal 28 April 2023. Diakses tanggal 29 April 2023.
  6. ↑ "Improving language understanding with unsupervised learning". openai.com (dalam bahasa American English). 11 Juni 2018. Diarsipkan dari versi aslinya tanggal 18 Maret 2023. Diakses tanggal 18 Maret 2023.
  7. ↑ "GPT-1 to GPT-4: Each of OpenAI's GPT Models Explained and Compared". MUO. 11 April 2023. Diarsipkan dari versi aslinya tanggal 15 April 2023. Diakses tanggal 3 Mei 2023.
  8. ↑ Colburn, Thomas. "OpenAI unveils GPT-4o, a fresh multimodal AI flagship model". The Register (dalam bahasa Inggris). Diakses tanggal 18 Mei 2024.
  9. 1 2 "An understanding of AI's limitations is starting to sink in". The Economist. 11 Juni 2020. ISSN 0013-0613. Diarsipkan dari versi aslinya tanggal 31 Juli 2020. Diakses tanggal 31 Juli 2020.
  10. ↑ Erhan, Dumitru; Courville, Aaron; Bengio, Yoshua; Vincent, Pascal (31 Maret 2010). "Why Does Unsupervised Pre-training Help Deep Learning?". Proceedings of the Thirteenth International Conference on Artificial Intelligence and Statistics (dalam bahasa Inggris). JMLR Workshop and Conference Proceedings: 201–208. Diarsipkan dari versi aslinya tanggal 24 Januari 2024. Diakses tanggal 24 Januari 2024.
  11. ↑ "Natural Language Processing". Diarsipkan dari versi aslinya tanggal 22 Agustus 2020. Diakses tanggal 31 Juli 2020.
  12. ↑ Vaswani, Ashish; Shazeer, Noam; Parmar, Niki; Uszkoreit, Jakob; Jones, Llion; Gomez, Aidan N; Kaiser, Łukasz; Polosukhin, Illia (12 Juni 2017). "Attention Is All You Need". Dalam I. Guyon and U. Von Luxburg and S. Bengio and H. Wallach and R. Fergus and S. Vishwanathan and R. Garnett (ed.). 31st Conference on Neural Information Processing Systems. Advances in Neural Information Processing Systems. Vol. 30. Curran Associates, Inc. arXiv:1706.03762.
  13. 1 2 Radford, Alec; Narasimhan, Karthik; Salimans, Tim; Sutskever, Ilya (11 Juni 2018). "Improving Language Understanding by Generative Pre-Training" (PDF). Diarsipkan (PDF) dari versi aslinya tanggal 26 Januari 2021. Diakses tanggal 31 Juli 2020.
  14. ↑ Khandelwal, Umesh (1 April 2023). "How Large Language GPT models evolved and work". Diarsipkan dari versi aslinya tanggal 4 April 2023. Diakses tanggal 3 April 2023.
  15. ↑ Vincent, James (14 Februari 2019). "OpenAI's new multitalented AI writes, translates, and slanders". The Verge. Diarsipkan dari versi aslinya tanggal 18 Desember 2020. Diakses tanggal 19 Desember 2020.
  16. ↑ "What is GPT-4 and Why Does it Matter?". 3 April 2023. Diarsipkan dari versi aslinya tanggal 3 April 2023. Diakses tanggal 3 April 2023.
  17. ↑ Radford, Alec; Wu, Jeffrey; Child, Rewon; Luan, David; Amodei, Dario; Sutskever, Ilua (14 Februari 2019). "Language models are unsupervised multitask learners" (PDF). OpenAI. 1 (8). Diarsipkan (PDF) dari versi aslinya tanggal 6 Februari 2021. Diakses tanggal 19 Desember 2020.
  18. ↑ Vincent, James (7 November 2019). "OpenAI has published the text-generating AI it said was too dangerous to share". The Verge. Diarsipkan dari versi aslinya tanggal 11 Juni 2020. Diakses tanggal 28 April 2023.
  19. ↑ Sterling, Bruce (13 Februari 2020). "Web Semantics: Microsoft Project Turing introduces Turing Natural Language Generation (T-NLG)". Wired. ISSN 1059-1028. Diarsipkan dari versi aslinya tanggal 4 November 2020. Diakses tanggal 31 Juli 2020.
  20. ↑ Sagar, Ram (3 Juni 2020). "OpenAI Releases GPT-3, The Largest Model So Far". Analytics India Magazine. Diarsipkan dari versi aslinya tanggal 4 Agustus 2020. Diakses tanggal 31 Juli 2020.
  21. ↑ Brown, Tom B.; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared; Dhariwal, Prafulla; Neelakantan, Arvind; Shyam, Pranav et al. (28 Mei 2020). "Language Models are Few-Shot Learners". arΧiv:2005.14165 [cs.CL].
  22. ↑ Fu, Yao; Peng, Hao; Khot, Tushar (2022). "How does GPT Obtain its Ability? Tracing Emergent Abilities of Language Models to their Sources". Yao Fu's Notion. Diarsipkan dari versi aslinya tanggal 19 April 2023. Diakses tanggal 24 Juni 2023.
  23. ↑ Edwards, Benj (14 Maret 2023). "OpenAI's GPT-4 exhibits "human-level performance" on professional benchmarks". Ars Technica. Diarsipkan dari versi aslinya tanggal 14 Maret 2023. Diakses tanggal 15 Maret 2023.
  24. ↑ OpenAI (15 Maret 2023). "GPT-4 Technical Report". arΧiv:2303.08774 [cs.CL].
  25. ↑ Gupta, Aman (21 Maret 2023). "GPT-4 takes the world by storm - List of companies that integrated the chatbot". Mint (dalam bahasa Inggris). Diakses tanggal 23 Januari 2024.
  26. ↑ Alford, Anthony (13 Juli 2021). "EleutherAI Open-Sources Six Billion Parameter GPT-3 Clone GPT-J". InfoQ. Diarsipkan dari versi aslinya tanggal 10 Februari 2023. Diakses tanggal 3 April 2023.
  27. ↑ Colburn, Thomas. "OpenAI unveils GPT-4o, a fresh multimodal AI flagship model". The Register (dalam bahasa Inggris). Diakses tanggal 18 Mei 2024.
  28. ↑ Zia, Dr Tehseen (29 Maret 2025). "How OpenAI's o3, Grok 3, DeepSeek R1, Gemini 2.0, and Claude 3.7 Differ in Their Reasoning Approaches". Unite.AI (dalam bahasa American English). Diakses tanggal 3 Agustus 2025.
  29. ↑ Heath, Alex (7 Agustus 2025). "GPT-5 is being released to all ChatGPT users". The Verge (dalam bahasa American English). Diakses tanggal 7 Agustus 2025.
  30. ↑ "Introducing GPT‑5". OpenAI. 7 Agustus 2025. Diakses tanggal 7 Agustus 2025.
  31. ↑ "Introducing the Center for Research on Foundation Models (CRFM)". Stanford HAI. 18 Agustus 2021. Diarsipkan dari versi aslinya tanggal 4 Juni 2023. Diakses tanggal 26 April 2023.
  32. ↑ "Reflections on Foundation Models". hai.stanford.edu (dalam bahasa Inggris). 18 Oktober 2021. Diarsipkan dari versi aslinya tanggal 15 Agustus 2024. Diakses tanggal 15 Agustus 2024.
  33. ↑ "Introducing GPT-5". OpenAI (dalam bahasa American English). 7 Agustus 2025. Diakses tanggal 14 Agustus 2025.
  34. ↑ Vincent, James (14 Maret 2023). "Google opens up its AI language model PaLM to challenge OpenAI and GPT-3". The Verge. Diarsipkan dari versi aslinya tanggal 14 Maret 2023. Diakses tanggal 29 April 2023.
  35. ↑ "Google Opens Access to PaLM Language Model". Diarsipkan dari versi aslinya tanggal 31 Mei 2023. Diakses tanggal 29 April 2023.
  36. ↑ Iyer, Aparna (30 November 2022). "Meet GPT-JT, the Closest Open Source Alternative to GPT-3". Analytics India Magazine. Diarsipkan dari versi aslinya tanggal 2 Juni 2023. Diakses tanggal 29 April 2023.
  37. ↑ "Meta Debuts AI Language Model, But It's Only for Researchers". PCMAG. 24 Februari 2023. Diarsipkan dari versi aslinya tanggal 19 Juli 2023. Diakses tanggal 21 Mei 2023.
  38. ↑ Islam, Arham (27 Maret 2023). "Multimodal Language Models: The Future of Artificial Intelligence (AI)". Diarsipkan dari asli tanggal 15 Mei 2023. Diakses tanggal 15 Mei 2023.
  39. ↑ Islam, Arham (14 November 2022). "How Do DALL·E 2, Stable Diffusion, and Midjourney Work?". Diarsipkan dari versi aslinya tanggal 18 Juli 2023. Diakses tanggal 21 Mei 2023.
  40. ↑ Saha, Shritama (4 Januari 2023). "Google Launches Muse, A New Text-to-Image Transformer Model". Analytics India Magazine. Diarsipkan dari versi aslinya tanggal 15 Mei 2023. Diakses tanggal 15 Mei 2023.
  41. ↑ Wu (et-al), Chenfei (8 Maret 2023). "Visual ChatGPT". arΧiv:2303.04671 [cs.CV].
  42. ↑ Ouyang, Long; Wu, Jeff (4 Maret 2022). "Training language models to follow instructions with human feedback". arΧiv:2203.02155 [cs.CL].
  43. ↑ OpenAI (27 Januari 2022). "Aligning language models to follow instructions". OpenAI. Diakses tanggal 29 Juli 2025.
  44. ↑ Bommasani (et-al), Rishi (12 Juli 2022). "On the Opportunities and Risks of Foundation Models". arΧiv:2108.07258 [cs.LG].
  45. ↑ "Aligning language models to follow instructions". openai.com. Diarsipkan dari versi aslinya tanggal 23 Maret 2023. Diakses tanggal 23 Maret 2023.
  46. ↑ Ouyang, Long; Wu, Jeff; Jiang, Xu; et al. (4 November 2022). "Training language models to follow instructions with human feedback". NeurIPS. arXiv:2203.02155.
  47. ↑ Ramnani, Meeta (28 Januari 2022). "OpenAI dumps its own GPT-3 for something called InstructGPT, and for right reason". Analytics India Magazine. Diarsipkan dari versi aslinya tanggal 4 Juni 2023. Diakses tanggal 29 April 2023.
  48. ↑ "Alpaca: A Strong, Replicable Instruction-Following Model". Stanford CRFM. Diarsipkan dari versi aslinya tanggal 6 April 2023. Diakses tanggal 15 Mei 2023.
  49. ↑ "Free Dolly: Introducing the World's First Truly Open Instruction-Tuned LLM". Databricks. 12 April 2023. Diarsipkan dari versi aslinya tanggal 14 Juli 2023. Diakses tanggal 15 Mei 2023.
  50. ↑ "Introducing ChatGPT". openai.com (dalam bahasa American English). Diarsipkan dari versi aslinya tanggal 16 Maret 2023. Diakses tanggal 16 Maret 2023.
  51. ↑ Wiggers, Kyle (4 Mei 2023). "Microsoft doubles down on AI with new Bing features". Diarsipkan dari versi aslinya tanggal 7 Desember 2023. Diakses tanggal 4 Mei 2023.
  52. ↑ "ChatGPT vs. Bing vs. Google Bard: Which AI Is the Most Helpful?". CNET. Diarsipkan dari versi aslinya tanggal 24 Juli 2023. Diakses tanggal 30 April 2023.
  53. ↑ "Auto-GPT, BabyAGI, and AgentGPT: How to use AI agents". Mashable. 19 April 2023. Diarsipkan dari versi aslinya tanggal 22 Juli 2023. Diakses tanggal 15 Mei 2023.
  54. ↑ Marr, Bernard. "Auto-GPT May Be The Strong AI Tool That Surpasses ChatGPT". Forbes. Diarsipkan dari versi aslinya tanggal 21 Mei 2023. Diakses tanggal 15 Mei 2023.
  55. ↑ Morrison, Ryan (7 Maret 2023). "Salesforce launches EinsteinGPT built with OpenAI technology". Diarsipkan dari versi aslinya tanggal 15 April 2023. Diakses tanggal 10 April 2023.
  56. ↑ Sharma, Animesh K.; Sharma, Rahul (2023). "The role of generative pretrained transformers (GPTs) in revolutionising digital marketing: A conceptual model". Journal of Cultural Marketing Strategy. 8 (1): 80–90. doi:10.69554/TLVQ2275.
  57. ↑ Leswing, Kif (13 April 2023). "Bloomberg plans to integrate GPT-style A.I. into its terminal". CNBC. Diarsipkan dari versi aslinya tanggal 19 Mei 2023. Diakses tanggal 4 Mei 2023.
  58. ↑ Melendez, Steven (4 Mei 2023). "Learning nonprofit Khan Academy is piloting a version of GPT called Khanmigo". Fast Company. Diarsipkan dari versi aslinya tanggal 11 Mei 2023. Diakses tanggal 22 Mei 2023.
  59. ↑ "Khan Academy Pilots GPT-4 Powered Tool Khanmigo for Teachers". THE Journal. Diarsipkan dari versi aslinya tanggal 7 Mei 2023. Diakses tanggal 7 Mei 2023.
  60. ↑ Hachman, Mark (4 Mei 2023). "Slack GPT will bring AI chatbots to your conversations". PCWorld. Diarsipkan dari versi aslinya tanggal 9 Juni 2023. Diakses tanggal 4 Mei 2023.
  61. ↑ Luo (et-al), Renqian (3 April 2023). "BioGPT: Generative pre-trained transformer for biomedical text generation and mining". Briefings in Bioinformatics. 23 (6) bbac409. arXiv:2210.10341. doi:10.1093/bib/bbac409. PMID 36156661.
  62. ↑ John, Amy Sarah (5 Mei 2023). "Know about ChatGPT's 13 best plugins, designed to improve your overall user experience". Latest Digital Transformation Trends | Cloud News | Wire19. Diarsipkan dari asli tanggal 9 Mei 2023. Diakses tanggal 7 Mei 2023.
  63. ↑ "ChatGPT plugins". OpenAI. 13 Maret 2024. Diarsipkan dari versi aslinya tanggal 23 Maret 2023. Diakses tanggal 7 Mei 2023.
  64. ↑ "How to Use ChatGPT on Google Sheets With GPT for Sheets and Docs". MUO. 12 Maret 2023. Diarsipkan dari versi aslinya tanggal 19 Juni 2023. Diakses tanggal 7 Mei 2023.
  65. ↑ Asay, Matt (27 Februari 2023). "Embrace and extend Excel for AI data prep". InfoWorld. Diarsipkan dari versi aslinya tanggal 2 Juni 2023. Diakses tanggal 7 Mei 2023.
  66. 1 2 3 4 Hicks, William (10 Mei 2023). "ChatGPT creator OpenAI is asking startups to remove 'GPT' from their names". The Business Journal. Diarsipkan dari versi aslinya tanggal 28 Juni 2023. Diakses tanggal 21 Mei 2023.
  67. ↑ OpenAI (24 April 2023). "Brand Guidelines". Diarsipkan dari versi aslinya tanggal 18 Juli 2023. Diakses tanggal 21 Mei 2023.
  68. 1 2 "Brand guidelines". Diarsipkan dari versi aslinya tanggal 18 Juli 2023. Diakses tanggal 28 November 2023.
  69. ↑ "Introducing GPTS". 13 Maret 2024. Diarsipkan dari versi aslinya tanggal 20 Maret 2024. Diakses tanggal 28 November 2023.
  70. 1 2 Heah, Alexa (26 April 2023). "OpenAI Unsuccessful At Speeding Up Its Attempt To Trademark 'GPT'". DesignTAXI. Diarsipkan dari versi aslinya tanggal 26 April 2023. Diakses tanggal 21 Mei 2023.
  71. ↑ "NONFINAL OFFICE ACTION". USPTO. 25 Mei 2023. Diarsipkan dari versi aslinya tanggal 3 Desember 2023. Diakses tanggal 30 Desember 2023.
  72. ↑ "U.S. Trademark Law". Desember 2015. Diarsipkan dari versi aslinya tanggal 17 Januari 2024. Diakses tanggal 29 November 2023.
  73. ↑ "International Trademark Rights". Diarsipkan dari versi aslinya tanggal 11 Maret 2024. Diakses tanggal 29 November 2023.
  74. ↑ "OpenAI Wants to Trademark 'GPT' Amid Rise of AI Chatbots". Tech Times. 25 April 2023. Diarsipkan dari versi aslinya tanggal 25 April 2023. Diakses tanggal 21 Mei 2023.
  75. ↑ Louise, Nickie (3 April 2023). "OpenAI files a UDRP case against the current owner of ChatGPT.com" (dalam bahasa American English). Diarsipkan dari versi aslinya tanggal 5 Juni 2023. Diakses tanggal 21 Mei 2023.
  76. 1 2 Demcak, Tramatm-Igor (26 April 2023). "OpenAI's Battle for Brand Protection: Can GPT be trademarked?". Lexology (dalam bahasa Inggris). Diarsipkan dari asli tanggal 5 Mei 2023. Diakses tanggal 22 Mei 2023.
  77. ↑ Lawton, George (20 April 2023). "ChatGPT vs. GPT: How are they different? | TechTarget". Enterprise AI (dalam bahasa Inggris). Diarsipkan dari asli tanggal 9 Mei 2023. Diakses tanggal 21 Mei 2023.
  78. ↑ Robb, Drew (12 April 2023). "GPT-4 vs. ChatGPT: AI Chatbot Comparison". eWEEK (dalam bahasa American English). Diarsipkan dari versi aslinya tanggal 27 Juli 2023. Diakses tanggal 21 Mei 2023.
  79. ↑ Russo, Philip (22 Agustus 2023). [https::/commercialobserver.com/2023/08/jll-ai-gpt-proptech/ "The Genesis of Generative AI for Everything Everywhere All at Once in CRE"]. Commercial Observer. Diarsipkan dari versi aslinya tanggal 24 Agustus 2023.
  80. ↑ "Trademark infringement". Diarsipkan dari versi aslinya tanggal 30 November 2023. Diakses tanggal 29 November 2023.
  81. ↑ Rheintgen, Husch Blackwell LLP-Kathleen A. (16 Agustus 2013). "Branding 101: trademark descriptive fair use". Lexology (dalam bahasa Inggris). Diarsipkan dari versi aslinya tanggal 21 Mei 2023. Diakses tanggal 21 Mei 2023.
  82. ↑ "EUIPO - eSearch". euipo.europa.eu. Diakses tanggal 4 September 2025.
  83. ↑ "IPI Database". Swissreg. Diakses tanggal 4 September 2025.
  84. ↑ Vogt, Reto (20 Februari 2024). "OpenAI sichert sich in der Schweiz "GPT" als Markenname". Inside IT (dalam bahasa Jerman). Diarsipkan dari asli tanggal 21 Maret 2025. Diakses tanggal 4 September 2025.

Templat:Kotak navigasi kecerdasan buatan

Diperoleh dari "https://id.wikipedia.org/w/index.php?title=Pentransformasi_praterlatih_generatif&oldid=28470962"