Untuk memastikan keamanan AI, langkah awal kami adalah membuat kebijakan dan panduan yang jelas yang jelas mengenai jenis perilaku yang harus atau tidak boleh dilakukan oleh Nesya. Hal ini memungkinkan kami untuk mempertimbangkan nilai-nilai yang ingin kami bangun ke dalam produk kami dan mengumpulkan data yang sesuai untuk menyelaraskan model dengan nilai-nilai tersebut. Kami memfokuskan kebijakan keselamatan kebijakan keselamatan kita pada prinsip-prinsip berikut. Nesya tidak boleh terlibat dalam perilaku yang dapat secara langsung membahayakan pengguna kita atau orang lain. Ini berarti Nesya harus:

• Tidak akan pernah memberikan saran atau instruksi tentang aktivitas yang berbahaya atau merugikan.
• Tidak pernah mendukung atau memberikan panduan untuk melukai diri sendiri atau bunuh diri.
• Tidak pernah mengungkapkan informasi pribadi seperti nomor telepon, email, atau data sensitif.
• Tidak akan pernah menunjukkan bias atau stereotip terhadap kelompok mana pun berdasarkan faktor-faktor seperti usia, disabilitas etnis, jenis kelamin, dan lainnya.
• Tidak akan pernah mempromosikan kebencian atau menyakiti individu atau kelompok mana pun, dan ini termasuk menghindari bahasa yang menyinggung.
• Hindari memberikan saran kritis yang lebih baik ditangani oleh seorang ahli, seperti saran medis, keuangan, atau hukum, keuangan, atau panduan hukum.
• Nesya harus bersikap damai dan hormat kepada pengguna dan orang lain. Nesya harus menghormati perbedaan perspektif dan akan bekerja untuk menyelesaikan konflik.
• Nesya harus menghindari halusinasi, sebuah masalah yang dikenal dengan model bahasa di mana AI sistem AI terkadang dapat mengarang jawaban atau memberikan informasi yang tidak akurat. Untuk melakukan hal ini, Nesya harus tetap meragukan dirinya sendiri, menerima umpan balik dengan mudah, dan mencoba untuk tidak menjawab topik-topik yang pengetahuannya sudah ketinggalan zaman.
• Nesya harus selalu mematuhi hukum dan peraturan yang berlaku. Hal ini termasuk menghindari memberikan panduan yang tidak tepat untuk mendapatkan atau menggunakan barang yang diatur seperti obat-obatan terlarang, senjata, atau barang medis.

Kebijakan menetapkan target untuk melatih AI Kami. Kebijakan ini dengan jelas mendefinisikan apa yang harus dan tidak boleh dilakukan oleh model dan tidak boleh dilakukan, dan menguraikan bagaimana Tenang membayangkan AI-nya berperilaku dalam berbagai situasi.

• Langkah selanjutnya adalah penyelarasan AI, yang merupakan upaya untuk memastikan teknologi kami benar-benar mengikuti kebijakan ini. Hal ini melibatkan kolaborasi mendalam antara tim teknis kami, spesialis kebijakan, dan tim yang melatih sistem AI kami.
• Pendekatan kami terhadap penyelarasan menempatkan feedback dari manusia sebagai intinya. Kami bermitra dengan tim yang menguji model kami secara ketat, menyediakan data tentang area di mana yang mungkin tidak sepenuhnya sesuai dengan kebijakan. Feedback ini memandu kami dalam menyempurnakan AI kami agar lebih selaras dengan nilai-nilai kami dan menghindari perilaku yang tidak aman di masa depan.
• Penyelarasan model adalah bidang penelitian yang dinamis. Kami sangat senang dengan kemajuan signifikan yang dibuat oleh komunitas penelitian dalam memastikan bahwa AI tetap sejalan dengan nilai-nilai kami.
• Akan tetapi, AI pribadi mungkin tidak selalu berperilaku seperti yang diharapkan, bahkan dengan teknik paling canggih sekalipun.
• Menyadari bahwa tidak ada metode keamanan tunggal yang sempurna, kami mengadopsi pendekatan berlapis yang menggabungkan berbagai teknik untuk memastikan keselarasan dengan satu kebijakan. Seiring dengan munculnya metode-metode baru, kami berkomitmen memperbarui peralatan kami untuk terus meningkatkan keamanan sembari memperkenalkan fitur dan kemampuan baru pada AI kami.

Menjaga keamanan AI adalah proses yang terus berlangsung. Tidak ada metode yang dapat menjamin keselarasan yang sempurna, dan tidak ada kebijakan yang dapat memperkirakan setiap situasi di dunia nyata. Untuk teknologi yang masih dalam tahap awal dan berkembang, kami memperkirakan bahwa hal-hal bisa dan akan berjalan salah. Mencapai keamanan yang optimal berarti secara konsisten meninjau AI kami untuk menemukan area di mana mereka mungkin tidak berfungsi sebagaimana mestinya dan dengan cepat melakukan perbaikan saat kami mengidentifikasi masalah.

Pendekatan kami untuk meninjau perilaku AI dan melakukan peningkatan terdiri dari tiga elemen utama:

1. Pemantauan: Kami menggunakan sistem otomatis di seluruh platform kami untuk melacak penggunaan, menilai kualitas percakapan, dan menandai kasus di mana model kami mungkin tidak sesuai dengan kebijakan keselamatan kami. Sistem ini membantu mengidentifikasi pola perilaku model yang mungkin tidak aman, sehingga memandu kami dalam menangani masalah prioritas.
2. Tinjauan Log: Meskipun metode kuantitatif sangat berharga, terkadang mendeteksi pelanggaran keamanan memerlukan pemeriksaan yang cermat terhadap perilaku AI. Tenang AI memiliki tim ahli khusus yang menganalisis log yang dianonimkan dan ditandai sebagai potensi pelanggaran, mengungkapkan masalah dan meningkatkan keamanan model.
3. Red Teaming: Kami ingin AI kami tidak hanya aman dalam penggunaan normal tetapi juga saat diuji secara intensif dalam kondisi advesarial. Kami bekerja sama dengan tim ahli red-teamers yang secara aktif menantang mekanisme penyelarasan kami. Wawasan yang diperoleh dari pekerjaan ini digunakan untuk perbaikan dan penyesuaian.
4. Akhirnya, feedback pengguna merupakan pendorong penting dalam peningkatan bagi kami. Jika Anda menemukan sesuatu yang menurut Anda perlu diperbaiki atau ditingkatkan, kami mendorong Anda untuk menghubungi kami di hai@tenangaja.co.id.

Seperti halnya model AI berskala besar lainnya, AI kami adalah sebuah karya yang terus berkembang. Dalam upaya berkelanjutan untuk meningkatkannya, kami percaya bahwa penting untuk transparan tentang keterbatasan yang sudah diketahui sejak awal. Keterbatasan tersebut termasuk:

• Faktualitas dan halusinasi: Model bahasa terkadang dapat dengan percaya diri menyatakan sesuatu sebagai fakta, padahal sebenarnya tidak akurat. Saat mengandalkan informasi dari Nesya, disarankan untuk menggunakan penilaian Anda sendiri dan memverifikasi fakta secara independen.
• Bias: Model bahasa kami bisa mewarisi bias dari data latihannya, termasuk stereotip rasial, gender, dan lainnya. Meskipun kami telah mengambil langkah signifikan untuk mengurangi bias ini, mereka mungkin masih muncul dalam kondisi tertentu.
• Gullibility: Model bahasa terkadang dapat menghasilkan konten yang tidak aman atau tidak pantas ketika diminta dengan pertanyaan hipotesis atau terkait penelitian. AI kami mungkin menunjukkan perilaku serupa, terutama ketika menghadapi tekanan pengguna yang terus-menerus.
• Memori terbatas: Nesya saat ini memiliki memori terbatas terkait percakapan sebelumnya, yang berarti ia mungkin melupakan nama, fakta, atau topik yang telah dibahas sebelumnya.
• Nesya tidak selalu tahu apa yang tidak bisa dilakukannya: Ada kalanya Nesya mungkin tidak sepenuhnya memahami kemampuannya sendiri. Harap disadari bahwa ia mungkin mengarahkan Anda ke fitur, detail kontak, atau situs web yang tidak ada. Ia juga mungkin mengklaim telah mengirim file atau informasi ketika sebenarnya tidak.
• Nesya tidak tahu apa yang tidak diketahuinya: Nesya tidak memiliki akses real-time ke internet dan mungkin tidak selalu up-to-date dengan peristiwa terbaru. Ia juga memiliki pemahaman terbatas tentang data yang digunakan untuk pelatihannya, cara menangani data pengguna, serta persyaratan layanannya sendiri. Anda dapat selalu meninjau Ketentuan Layanan dan Kebijakan Privasi resmi kami.
• Kemampuan belajar dari umpan balik yang terbatas: Meskipun Nesya dapat belajar dari umpan balik Anda, kemampuannya untuk melakukannya terbatas. Ini berarti ia mungkin tidak selalu menyesuaikan perilakunya dengan tepat ketika diminta untuk melakukan sesuatu lebih sering atau lebih jarang. Ia juga mungkin tidak mempertahankan keterampilan yang Anda ajarkan dalam percakapan sebelumnya.
• Dukungan non-Inggris dan Indonesia yang terbatas: Model kami dirancang terutama untuk audiens yang berbicara bahasa Inggris dan Indonesia. Ini berarti Anda mungkin mengalami keterbatasan atau pengalaman buruk jika mencoba berkomunikasi dengan Nesya dalam bahasa selain bahasa Inggris dan Indonesia.
• Kemampuan matematika yang terbatas: Nesya, seperti model bahasa lainnya, memiliki beberapa keterbatasan dalam melakukan perhitungan kompleks, membandingkan nilai, dan menyelesaikan tugas-tugas matematika.
• Tidak ada dukungan pemrograman: Nesya berfokus pada percakapan dan tidak dirancang untuk menghasilkan, menguji, atau memperbaiki kode.
• Kurangnya saran spesialis: Sulit untuk membedakan antara saran yang termasuk dalam pengetahuan umum dan saran yang seharusnya diberikan oleh ahli terlatih. Oleh karena itu, Nesya mungkin sesekali memberikan saran yang lebih baik ditangani oleh seorang ahli manusia. Harap pertimbangkan hal ini dan mintalah nasihat dari spesialis saat diperlukan.