Home Uncategorized Detektor AI Salah. Bagaimanapun, Penulis Akan Dipecat

Detektor AI Salah. Bagaimanapun, Penulis Akan Dipecat

18
0
Detektor AI Salah. Bagaimanapun, Penulis Akan Dipecat

Kimberly Gasuras tidak menggunakan AI. “Saya tidak membutuhkannya,” katanya. “Saya telah menjadi reporter berita selama 24 tahun. Menurut Anda, bagaimana saya melakukan semua pekerjaan itu?” Logika itu tidak cukup untuk menyelamatkan pekerjaannya.

Sebagai jurnalis lokal di Bucyrus, Ohio, Gasuras mengandalkan pekerjaan sampingan untuk membayar tagihan. Untuk sementara, dia menghasilkan banyak uang dari platform penulisan lepas bernama WritersAccess, tempat dia menulis blog dan konten lainnya untuk perusahaan kecil dan menengah. Namun pada pertengahan tahun 2023, pendapatannya anjlok karena beberapa klien beralih ke ChatGPT untuk kebutuhan menulis mereka. Ini sudah merupakan masa yang sulit. Kemudian emailnya datang.

“Saya hanya mendapat satu peringatan,” kata Gasuras. “Saya mendapat pesan yang mengatakan bahwa mereka menandai karya saya sebagai AI menggunakan alat yang disebut ‘Orisinalitas’.” Dia tercengang. Gasuras membalas suratnya untuk membela ketidakbersalahannya, tapi dia tidak pernah mendapat tanggapan. Orisinalitas membutuhkan uang, tetapi Gasuras mulai menjalankan pekerjaannya melalui detektor AI lain sebelum mengirimkannya untuk memastikan dia tidak terkena kesalahan. Beberapa bulan kemudian, WritersAccess tetap mengeluarkannya dari platform. “Mereka bilang akun saya ditangguhkan karena penggunaan AI yang berlebihan. Saya tidak percaya,” kata Gasuras. WritersAccess tidak menanggapi permintaan komentar.

Ketika ChatGPT membuat dunia heboh satu setengah tahun yang lalu, hal ini memicu pencarian cara untuk menangkap orang-orang yang mencoba menyamarkan teks AI sebagai tulisan mereka sendiri. Sejumlah startup diluncurkan untuk mengisi kekosongan melalui alat pendeteksi AI, dengan nama-nama termasuk Copyleaks, GPTZero, Originality.AI, dan Winston AI. Ini menghasilkan bisnis yang rapi di lanskap yang penuh dengan hantu AI.

Perusahaan-perusahaan ini mengiklankan ketenangan pikiran, sebuah cara untuk mengambil kembali kendali melalui “bukti” dan “akuntabilitas.” Beberapa mengiklankan tingkat akurasi setinggi 99,98%. Namun semakin banyak pakar, penelitian, dan orang dalam industri berpendapat bahwa alat-alat ini kurang dapat diandalkan dibandingkan yang dijanjikan oleh pembuatnya. Tidak diragukan lagi bahwa detektor AI sering melakukan kesalahan, dan orang-orang yang tidak bersalah terjebak dalam baku tembak. Tak terhitung siswa telah dituduh melakukan plagiarisme AI, namun epidemi yang lebih tenang sedang terjadi di dunia profesional. Beberapa pekerjaan menulis mengering berkat chatbots. Ketika orang-orang berebut lapangan kerja yang semakin menipis, para penulis kehilangan pekerjaan karena tuduhan palsu dari detektor AI.

“Teknologi ini tidak berfungsi seperti yang diiklankan orang-orang,” kata Bars Juhasz, salah satu pendiri Undetectable AI, yang membuat alat untuk membantu orang memanusiakan teks AI untuk menyelinapkannya melewati perangkat lunak pendeteksi. “Kami mempunyai banyak kekhawatiran seputar keandalan proses pelatihan yang digunakan oleh detektor AI ini. Orang-orang ini mengklaim bahwa mereka memiliki akurasi 99%, dan berdasarkan pekerjaan kami, menurut saya itu tidak mungkin. Meskipun hal tersebut benar, berarti setiap 100 orang akan ada satu tanda palsu. Kita berbicara tentang penghidupan masyarakat dan reputasi mereka.”

Safeguard atau minyak ular?

Secara umum, pendeteksi AI bekerja dengan mengenali ciri-ciri tulisan tangan AI, seperti tata bahasa dan tanda baca yang sempurna. Faktanya, salah satu cara termudah agar karya Anda ditandai adalah dengan menggunakan Grammarly, alat yang memeriksa kesalahan ejaan dan tata bahasa. Ia bahkan menyarankan cara untuk menulis ulang kalimat agar lebih jelas, menggunakan kecerdasan buatan. Menambah penghinaan, Gizmodo berbicara dengan para penulis yang mengatakan mereka dipecat oleh platform yang mengharuskan mereka menggunakan Grammarly. (Gizmodo mengonfirmasi detail cerita ini, tetapi kami mengecualikan nama platform freelance tertentu karena penulis menandatangani perjanjian kerahasiaan.)

Detektor juga mencari faktor yang lebih jelas, seperti “ledakan”. Penulis manusia lebih cenderung menggunakan kembali kata-kata tertentu secara berkelompok atau berkelompok, sementara AI lebih cenderung mendistribusikan kata-kata secara merata di seluruh dokumen. Detektor AI juga dapat menilai “kebingungan”, yang pada dasarnya meminta AI untuk mengukur kemungkinan bahwa AI akan menghasilkan sepotong teks berdasarkan data pelatihan model. Beberapa perusahaan, seperti pemimpin industri Originaility.AI, melatih model bahasa AI mereka sendiri yang dibuat khusus untuk mendeteksi kerja AI lain, yang dimaksudkan untuk mengenali pola yang terlalu rumit bagi pikiran manusia.

Namun, tidak satupun dari teknik-teknik ini yang mudah dilakukan, dan banyak institusi besar yang sudah tidak lagi menggunakan alat-alat ini. OpenAI merilis detektor AI-nya sendiri untuk menghilangkan ketakutan terhadap produknya pada tahun 2023, namun menarik alat tersebut dari pasaran hanya beberapa bulan kemudian “karena tingkat akurasi yang rendah.” Dunia akademis merupakan negara pertama yang mengadopsi detektor AI, namun tuduhan palsu mendorong banyak universitas untuk mengadopsinya melarang penggunaan perangkat lunak pendeteksi AI,, termasuk Vanderbilt, Michigan State, Northwestern, dan University of Texas di Austin.

Perusahaan pendeteksi AI “berbisnis menjual minyak ular,” kata Debora Weber-Wulff, profesor di Universitas Ilmu Terapan untuk Teknik dan Ekonomi di Berlin, yang ikut menulis laporan makalah terbaru tentang efektivitas deteksi AI. Menurut Weber-Wulff, penelitian menunjukkan bahwa detektor AI tidak akurat, tidak dapat diandalkan, dan mudah dibodohi. “Orang-orang ingin percaya bahwa ada perangkat lunak ajaib yang bisa memecahkan masalah mereka,” katanya. Namun “perangkat lunak komputer tidak dapat memecahkan masalah sosial. Kami harus mencari solusi lain.”

Perusahaan-perusahaan yang membuat detektor AI mengatakan bahwa mereka adalah alat yang diperlukan namun tidak sempurna di dunia yang dibanjiri oleh teks yang dihasilkan robot. Ada permintaan yang signifikan terhadap layanan ini, terlepas dari apakah layanan tersebut efektif atau tidak.

Alex Cui, chief technology officer di perusahaan pendeteksi AI GPTZero, mengatakan bahwa detektor memiliki kekurangan yang signifikan, namun manfaatnya lebih besar daripada kekurangannya. “Kami melihat masa depan di mana, jika tidak ada yang berubah, internet akan semakin ditentukan oleh AI, baik itu berita, artikel tinjauan sejawat, pemasaran. Anda bahkan tidak tahu apakah orang yang Anda ajak bicara di media sosial itu nyata,” kata Cui. “Kami memerlukan solusi untuk mengonfirmasi pengetahuan secara massal, dan menentukan apakah konten tersebut berkualitas tinggi, autentik, dan merupakan penulis yang sah.”

Kejahatan yang diperlukan?

Mark, copywriter lain yang tinggal di Ohio yang meminta agar kami merahasiakan namanya untuk menghindari dampak profesional, mengatakan dia harus mengambil pekerjaan melakukan pemeliharaan di toko lokal setelah detektor AI membuatnya kehilangan pekerjaannya.

“Saya mendapat email yang mengatakan bahwa artikel terbaru saya memiliki kemungkinan 95% menghasilkan AI,” kata Mark. “Saya terkejut. Rasanya konyol kalau mereka menuduh saya setelah bekerja bersama selama tiga tahun, jauh sebelum ChatGPT tersedia.”

Dia mencoba untuk mendorong kembali. Mark mengirimi kliennya salinan Google Dokumen tempat dia menyusun artikel tersebut, yang menyertakan stempel waktu yang menunjukkan bahwa dia menulis dokumen tersebut dengan tangan. Itu tidak cukup. Hubungan Markus dengan platform penulisan berantakan. Dia mengatakan kehilangan pekerjaan menyebabkan 90% pendapatannya hilang.

“Kami mendengar kisah-kisah ini lebih dari yang kami harapkan, dan kami memahami kepedihan yang ditimbulkan oleh positif palsu kepada para penulis ketika karya yang mereka curahkan sepenuh hati dan jiwa mereka mendapat tuduhan palsu,” kata Jonathan Gillham, CEO Originality.AI. “Kami merasa seperti sedang membangun sebuah alat untuk membantu para penulis, namun kami tahu bahwa terkadang hal ini mempunyai beberapa konsekuensi.”

Namun menurut Gillham, masalahnya lebih dari sekadar membantu penulis atau memberikan akuntabilitas. “Google secara agresif memburu spam AI,” katanya. “Kami telah mendengar dari perusahaan-perusahaan yang seluruh situsnya di-de-indeks oleh Google yang mengatakan bahwa mereka bahkan tidak tahu bahwa penulis mereka menggunakan AI.”

Memang benar internet sedang dibanjiri peternakan konten dengan upaya rendah yang menghasilkan artikel AI bermutu rendah dalam upaya untuk mempermainkan hasil pencarian, mendapatkan klik, dan menghasilkan uang iklan dari bola mata tersebut. Google menindak situs-situs ini, yang membuat beberapa perusahaan percaya bahwa peringkat situs web mereka akan diturunkan jika Google mendeteksi adanya tulisan AI apa pun. Hal ini menjadi masalah bagi bisnis berbasis web, dan semakin menjadi nilai jual nomor satu bagi pendeteksi AI. Orisinalitas mempromosikan dirinya sebagai cara untuk “membuktikan situs Anda di Google di masa depan” di bagian atas daftar manfaat di berandanya.

Juru bicara Google mengatakan hal ini sepenuhnya salah menafsirkan kebijakan perusahaan. Google, perusahaan yang menyediakan AI, mengatakan tidak ada masalah dengan konten AI itu sendiri. “Tidaklah tepat untuk mengatakan bahwa Google menghukum situs web hanya karena mereka mungkin menggunakan konten yang dihasilkan AI,” kata juru bicara tersebut. “Seperti yang telah kami nyatakan dengan jelas, konten bernilai rendah yang dibuat dalam skala besar untuk memanipulasi peringkat Penelusuran adalah spam, bagaimanapun konten tersebut diproduksi. Sistem otomatis kami menentukan apa yang muncul di hasil penelusuran teratas berdasarkan sinyal yang menunjukkan apakah konten bermanfaat dan berkualitas tinggi.”

Pesan campuran

Tidak ada yang mengklaim bahwa detektor AI itu sempurna, termasuk perusahaan pembuatnya. Namun Orisinalitas dan pendeteksi AI lainnya mengirimkan pesan yang beragam tentang bagaimana alat mereka harus digunakan. Misalnya, Gillham mengatakan “kami menyarankan agar alat tersebut tidak digunakan dalam dunia akademis, dan sangat menyarankan agar alat tersebut tidak digunakan untuk tindakan disipliner.” Dia menjelaskan risiko positif palsu terlalu tinggi bagi siswa, karena mereka mengirimkan esai dalam jumlah kecil sepanjang tahun ajaran, namun volume karya yang dihasilkan oleh penulis profesional berarti algoritme memiliki lebih banyak peluang untuk menyelesaikannya dengan benar. Namun, di salah satu perusahaan postingan blogOrisinalitas mengatakan bahwa deteksi AI “penting” di kelas.

Lalu ada pertanyaan tentang bagaimana hasilnya disajikan. Banyak penulis yang diajak bicara Gizmodo mengatakan klien mereka tidak memahami keterbatasan detektor AI atau bahkan apa yang sebenarnya ditunjukkan oleh hasil. Sangat mudah untuk melihat bagaimana seseorang mungkin bingung: Saya menjalankan salah satu artikel saya melalui detektor AI Orisinalitas. Hasilnya adalah “70% Asli” dan “30% AI”. Anda mungkin berasumsi bahwa ini berarti Orisinalitas menentukan bahwa 30% artikel ditulis oleh chatbot, terutama karena alat tersebut menyoroti kalimat tertentu yang dianggap mencurigakan. Namun, ini sebenarnya adalah skor kepercayaan diri; Orisinalitas adalah 70% yakin bahwa teks tersebut ditulis oleh manusia. (Saya menulis semuanya sendiri, tetapi Anda harus percaya pada kata-kata saya.)

Lalu ada cara perusahaan menggambarkan algoritmanya. Menurut Originality, versi terbaru alatnya memiliki tingkat akurasi 98,8%, namun Originality juga menyatakan tingkat positif palsunya adalah 2,8%. Jika Anda memiliki kalkulator, Anda akan melihat bahwa jumlahnya mencapai lebih dari 100%. Gillham mengatakan itu karena angka-angka tersebut berasal dari dua tes yang berbeda.

Dalam pembelaan Orisinalitas, perusahaan memberikan penjelasan rinci tentang bagaimana Anda harus menafsirkan informasi tepat di bawah hasil, bersama dengan tautan ke tulisan yang lebih rinci tentang cara menggunakan alat tersebut. Tapi sepertinya itu belum cukup. Gizmodo berbicara dengan banyak penulis yang mengatakan mereka harus berdebat dengan klien yang salah memahami alat Orisinalitas.

Orisinalitas telah diterbitkan banyak postingan blog dan studi tentang akurasi dan masalah lainnya, termasuk kumpulan data dan metodologi yang digunakan untuk mengembangkan dan mengukur alatnya sendiri. Namun, Weber-Wulff di Universitas Sains Terapan untuk Teknik dan Ekonomi di Berlin mengatakan rincian tentang metodologi Orisinalitas “tidak begitu jelas.”

Sejumlah pakar yang diajak bicara oleh Gizmodo, seperti Juhasz dari Undetectable AI, mengatakan mereka memiliki kekhawatiran tentang bisnis di industri deteksi AI yang meningkatkan tingkat akurasi mereka dan menyesatkan pelanggan mereka. Perwakilan GPTZero dan Originality AI mengatakan perusahaan mereka berkomitmen terhadap keterbukaan dan transparansi. Kedua perusahaan mengatakan mereka berusaha keras untuk memberikan informasi yang jelas tentang keterbatasan dan kekurangan alat mereka.

Tampaknya menentang detektor AI berarti memihak penulis, tetapi menurut Gillham yang terjadi justru sebaliknya. “Jika tidak ada pendeteksi, persaingan pekerjaan menulis akan meningkat dan akibatnya gaji turun,” ujarnya. “Detektor adalah pembeda antara seorang penulis yang dapat melakukan pekerjaannya, mengirimkan konten, dan mendapatkan kompensasi untuk itu, dan seseorang yang dapat menyalin dan menempelkan sesuatu dari ChatGPT.”

Di sisi lain, semua copywriter yang diajak bicara Gizmodo mengatakan bahwa detektor AI adalah masalahnya.

“AI adalah masa depan. Tidak ada yang bisa kita lakukan untuk menghentikannya, tapi menurut saya bukan itu masalahnya. Saya dapat melihat banyak manfaat AI,” kata Mark. “Itu adalah detektornya. Merekalah yang mengatakan dengan sangat yakin bahwa mereka dapat mendeteksi tulisan AI, dan merekalah yang membuat klien kami gelisah dan paranoid serta membuat kami kehilangan pekerjaan.”

Source link