News

How This Doctor Wrote Dozens of Science Papers With ChatGPT


Một bóng đèn vụt tắt trong đầu Som Biswas khi lần đầu tiên anh ấy biết về ChatGPT. Là một bác sĩ X quang tại Trung tâm Khoa học Y tế Đại học Tennessee, Biswas đã xem một bài báo về chatbot của OpenAI trên web khi nó được phát hành vào tháng 11 năm 2022. Trong khi thế giới nói chung vẫn đang chấp nhận những tác động địa chấn của công nghệ này, Biswas nhận ra anh ấy có thể sử dụng nó để làm cho ít nhất một khía cạnh trong sự nghiệp của mình trở nên dễ dàng hơn rất nhiều.

“Tôi là một nhà nghiên cứu và tôi thường xuyên xuất bản các bài báo,” Biswas nói với The Daily Beast. “Hai điều đó liên kết với nhau trong đầu tôi: Nếu ChatGPT có thể được sử dụng để viết truyện và truyện cười, tại sao không sử dụng nó để nghiên cứu hoặc xuất bản các bài báo nghiêm túc?”

Anh ấy cần một bằng chứng về khái niệm, vì vậy Biswas đã yêu cầu bot viết một bài báo về một chủ đề mà anh ấy đã rất quen thuộc: bài viết về y tế. Sau khi thử và sai, Biswas đã có thể tạo một bài báo bằng cách nhắc ChatGPT từng phần. Khi anh ấy hoàn thành, anh ấy nộp bài báo cho Phóng xạ học, một tạp chí đánh giá ngang hàng hàng tháng từ Hiệp hội X quang Bắc Mỹ. “Cuối cùng, tôi nói với biên tập viên, ‘Tất cả những gì bạn đọc được viết bởi AI’, vì vậy điều đó đã gây ấn tượng với họ rất nhiều,” anh nói.

Vài ngày sau, tờ báo, “ChatGPT và tương lai của văn bản y tế,” đã được xuất bản trong Phóng xạ học sau khi trải qua đánh giá ngang hàng, theo Biswas. Sau khi nó được dựng lên, anh ấy cảm thấy mình đang làm gì đó. ChatGPT có thể được sử dụng cho nhiều mục đích hơn là chỉ đùa giỡn với các dự án sáng tạo. Anh ấy thực sự có thể sử dụng nó để giúp ích cho sự nghiệp và nghiên cứu của mình.

Chăm sóc sức khỏe sẽ thay đổi. Viết sẽ thay đổi. Nghiên cứu sẽ thay đổi.

Som Biswas, Đại học Tennessee

Những gì Biswas đang làm không nhất thiết phải là duy nhất. Kể từ khi phát hành ChatGPT, các học giả và nhà nghiên cứu giống như Biswas đã sử dụng các mô hình ngôn ngữ lớn (LLM) như một công cụ để trợ giúp họ trong quá trình viết và nghiên cứu của riêng mình—và đôi khi, tạo ra các bài báo hoàn chỉnh bằng cách sử dụng bot. Mặc dù chúng rất hữu ích theo cách này, nhưng chúng cũng đã tạo ra một sự thay đổi lớn trong cộng đồng khoa học khiến nhiều chuyên gia lo lắng về sự xói mòn uy tín trong xuất bản học thuật.

Kể từ bài báo đầu tiên của mình, Biswas đã sử dụng chatbot của OpenAI để viết ít nhất 16 giấy tờ trong bốn tháng, và xuất bản năm bài báo trên bốn tạp chí khác nhau. mới nhất là đăng dưới dạng bài bình luận trên tạp chí X quang nhi khoa vào ngày 28 tháng 4. Trong đó, Biswas được liệt kê là tác giả duy nhất, với lời thừa nhận ở cuối rằng ChatGPT đã viết bài báo và anh ấy đã chỉnh sửa nó.

Tuy nhiên, theo sự thừa nhận của chính Biswas, các bài báo mà anh ấy tạo ra không giới hạn ở các chủ đề trong chuyên môn X quang của anh ấy. Trên thực tế, anh ấy đã sử dụng bot để viết bài về vai trò của ChatGPT trong quân đội, giáo dục, nông nghiệp, truyền thông xã hội, bảo hiểm, pháp luậtvi trùng học. Anh ấy đã xuất bản thành công những thứ này trên các tạp chí chuyên về các lĩnh vực thích hợp khác nhau, bao gồm một bài báo về lập trình máy tính bên trong Tạp chí Khoa học Máy tính Mesopotamia, và hai bức thư gửi biên tập viên trên sự nóng lên toàn cầusức khỏe cộng đồng bên trong Biên niên sử của kỹ thuật y sinh.

Một năm trước, loại đầu ra này có vẻ hoàn toàn không thực tế. Các bài báo mất hàng chục nếu không muốn nói là hàng trăm giờ nghiên cứu trước khi đưa từ lên trang. Các nhà nghiên cứu trong các ngành khoa học có thể xuất bản nhiều nhất một vài bài báo mỗi năm. Và khá hiếm khi ai đó đi sâu vào viết về một chủ đề bên ngoài công việc của cuộc đời họ.

Tuy nhiên, những người sử dụng ChatGPT để sản xuất các bài báo đã vượt qua sản lượng của họ trong những năm trước với số lượng lớn—Biswas là một trong số họ. Và động lực của anh ấy vượt ra ngoài việc chỉ nhìn thấy dòng chữ của anh ấy. Như anh ấy nói với The Daily Beast, anh ấy muốn trở thành người truyền bá cho một phần công nghệ mới nổi mà anh ấy tin rằng sẽ thay đổi cách tất cả các nhà nghiên cứu thực hiện công việc của họ mãi mãi.

“Chăm sóc sức khỏe sẽ thay đổi. Viết sẽ thay đổi. Nghiên cứu sẽ thay đổi,” Biswas nói. “Tôi chỉ đang cố gắng xuất bản ngay bây giờ và hiển thị nó để mọi người có thể biết về nó và khám phá thêm.”

‘Mọi người đang trở nên ngớ ngẩn.’

Việc phát hành ChatGPT đã khởi xướng một làn sóng lo ngại về cách LLM sẽ hỗ trợ các ngành và hoạt động như viết quảng cáo, báo chí, tiểu luận của sinh viên và thậm chí viết hài kịch. Giới học thuật và tài liệu khoa học cũng chuẩn bị sẵn sàng cho một biến động sắp tới—một biến động được cho là quyết liệt hơn nhiều so với dự đoán trước đây.

Stefan Duma, giáo sư kỹ thuật tại Virginia Tech, nói với The Daily Beast: “Có một sự gia tăng thực sự đáng kể trong các bài báo khác nhau mà chúng tôi nhận được. Duma là tổng biên tập của Biên niên sử của Kỹ thuật y sinh. Trong vài tháng qua, anh ấy nói rằng anh ấy đã chứng kiến ​​​​sự gia tăng theo cấp số nhân về số lượng bài báo khác nhau được gửi để đăng trên tạp chí của mình — bao gồm cả hai bài anh ấy đã xuất bản từ Biswas trong phần thư gửi ban biên tập.

“Số lượng [letters to the editor] Thực tế, số lượng bài nộp đã tăng từ con số không lên có lẽ là hai hoặc ba bài mỗi tuần – vì vậy có thể là hàng chục bài mỗi tháng,” anh ấy nói. “Điều này rất lớn về mặt thiên văn, bởi vì chúng tôi thường chỉ có thể nhận được một hoặc hai lá thư về bất cứ điều gì mỗi tháng. Bây giờ chúng tôi nhận được hơn 10 chỉ về ChatGPT, đây là một sự gia tăng lớn.”

Thư gửi biên tập viên, Duma giải thích, về cơ bản là phần quan điểm của tạp chí. Có ít hạn chế hơn về thể loại viết và độ sâu nghiên cứu cần thiết để xuất bản các tác phẩm ở đây. Đó là lý do tại sao Duma sẵn sàng xuất bản các bài báo của Biswas về sự nóng lên toàn cầu và sức khỏe cộng đồng trong phần này.

Tuy nhiên, anh ấy nói thêm rằng anh ấy đã từ chối rất nhiều bài báo do ChatGPT và các LLM khác tạo ra do chất lượng thấp của chúng.

“Mọi người đang trở nên ngớ ngẩn với chúng,” anh nói. “Mọi người sẽ gửi cho tôi 10 bức thư giống nhau với một từ được thay đổi. Chúng tôi cố gắng đảm bảo rằng có một số điểm độc đáo về một số thứ này. Nhưng nó không phải là một đánh giá ngang hàng đầy đủ. Mọi người có thể tự do viết bất cứ điều gì họ muốn trong những lá thư này cho người biên tập. Vì vậy, chúng tôi đã từ chối một số nếu nó không bổ sung thêm bất cứ điều gì mới lạ, và nó chỉ lặp đi lặp lại.”

(Tạp chí Khoa học Máy tính Mesopotamia Phóng xạ học đã không trả lời yêu cầu bình luận từ The Daily Beast.)

Các biên tập viên tạp chí như Duma không phải là những người duy nhất nhận thấy tác động của ChatGPT đối với thế giới học thuật. Sự bùng nổ AI đã tạo ra một bối cảnh hoàn toàn mới cho các nhà nghiên cứu định hướng—và điều đó chỉ trở nên khó khăn hơn khi các công cụ này sinh sôi nảy nở và trở nên tinh vi hơn.

Trước áp lực xuất bản thực sự nặng nề, tôi nghĩ rằng các học giả sẽ bắt đầu dựa vào ChatGPT để tự động hóa một số phần nhàm chán hơn của bài viết.

Brett Karlan, Đại học Stanford

Elisabeth Bik, nhà vi trùng học và chuyên gia về tính toàn vẹn của khoa học, nói với The Daily Beast rằng cô ấy có hai suy nghĩ về việc sử dụng LLM trong học viện. Một mặt, cô ấy thừa nhận rằng nó có thể trở thành một công cụ vô giá cho các nhà nghiên cứu có ngôn ngữ mẹ đẻ không phải là tiếng Anh, những người có thể sử dụng nó để xây dựng các câu và đoạn văn mạch lạc.

Mặt khác, cô ấy cũng đã theo dõi sự gia tăng của các nhà nghiên cứu, những người rõ ràng đã lạm dụng chatbot để tạo ra hàng chục bài báo chỉ trong vài tháng qua. Cô ấy tuyên bố rằng nhiều “tác giả” này cũng không thừa nhận thực tế là họ đã sử dụng ChatGPT hoặc các mô hình khác để giúp tạo ra các bài báo.

“Ít nhất [Biswas] đang thừa nhận rằng anh ấy đang sử dụng ChatGPT, vì vậy bạn phải ghi công cho anh ấy,” Bik nói. “Có rất nhiều người khác mà tôi đã gặp cũng đã xuất bản số lượng bài báo khổng lồ và không thể tin được trong khi cũng không thừa nhận ChatGPT. Những người này chỉ xuất bản quá nhiều. Giống như, điều đó không thực tế có thể xảy ra.

Lý do, Bik giải thích, rất đơn giản: “Các trích dẫn và số lượng ấn phẩm là hai trong số các thước đo đánh giá tính học thuật.” Bạn càng có nhiều, bạn càng có vẻ hợp pháp và có kinh nghiệm hơn trong mắt các viện hàn lâm và tổ chức khoa học. “Vì vậy, nếu bạn tìm ra một cách giả tạo để tạo ra những thứ này, thì có vẻ như điều đó là không công bằng bởi vì bây giờ anh ấy sẽ giành được tất cả các thước đo hiệu suất.”

Việc sử dụng ChatGPT ngày càng tăng cũng là một sự phản ánh ảm đạm về những kỳ vọng đặt ra cho các nhà nghiên cứu trong thế giới học thuật. Brett Karlan, nghiên cứu sinh sau tiến sĩ về đạo đức AI tại Đại học Stanford, nói với The Daily Beast: “Với áp lực xuất bản thực sự đè nặng, tôi nghĩ các học giả sẽ bắt đầu dựa vào ChatGPT để tự động hóa một số phần nhàm chán hơn của bài viết”. e-mail. “Và rất có khả năng chính những người đã tạo ra các bài báo khó xuất bản và gửi chúng đến các tạp chí săn mồi sẽ tìm ra quy trình công việc tự động hóa việc này với ChatGPT.”

Bik cũng lo ngại rằng sự gia tăng của LLM sẽ chỉ thúc đẩy cái gọi là nhà máy giấy, một thuật ngữ trong nghiên cứu mô tả các tổ chức thị trường chợ đen làm suy yếu nghiên cứu học thuật truyền thống bằng cách sản xuất các bài báo khoa học gian lận giống với nghiên cứu chân chính và bán quyền tác giả đối với các nghiên cứu hợp pháp. Các bài báo học thuật được sản xuất bởi các nhà máy giấy thường ăn cắp ý tưởng nặng nề và sử dụng lại dữ liệu và tài sản. Bik nói: “Bạn có thể tưởng tượng một người là một nhà văn giỏi, người có thể viết ra một bài báo trong một phút, sau đó bán các bài báo cho những tác giả cần chúng.

Vì vậy, mặc dù nó có thể cung cấp một công cụ rất hữu ích cho một số học giả như Biswas hy vọng, ChatGPT và các LLM khác tạo ra một cơn bão hoàn hảo về sự dễ dàng và hiệu quả có thể cho phép những kẻ xấu lợi dụng ngành xuất bản học thuật mà cho đến nay vẫn chưa được chuẩn bị. để đáp ứng những thách thức này.

Người thay đổi cuộc chơi học thuật

Các vấn đề mà giới học thuật và xuất bản nghiên cứu phải đối mặt ngày nay chính là những vấn đề mà nhiều ngành như truyền thông và báo chí phải đối mặt khi nói đến các chatbot tiên tiến này: sự xói mòn uy tín và khả năng gây hại.

LLM và AI nói chung có một lịch sử lâu dài và bẩn thỉu với sự thiên vị, dẫn đến nhiều trường hợp bị tổn hại được báo cáo do phân biệt chủng tộc và phân biệt giới tính. Chatbot thích ChatGPT cũng không ngoại lệ. Ví dụ, trong vài ngày đầu tiên phát hành, người dùng đã báo cáo các trường hợp trong đó LLM của OpenAI đang làm những việc như nói với người dùng rằng chỉ đàn ông da trắng mới là nhà khoa học giỏi và không nên cứu mạng một đứa trẻ nếu chúng là cậu bé người Mỹ gốc Phi.

Xu hướng đã trở thành một vấn đề lâu năm với AI. Ngay cả khi chúng ta thấy công nghệ ngày càng tinh vi hơn, những thành kiến ​​dường như vẫn luôn tồn tại. Các bot này được đào tạo dựa trên bộ dữ liệu khổng lồ có nguồn gốc từ con người—con người thiên vị, phân biệt chủng tộc, phân biệt giới tính, coi thường phụ nữ—có thể xuất hiện trong sản phẩm cuối cùng cho dù các nhà phát triển AI có cố gắng đặt bao nhiêu bộ lọc và lan can.

Các tạp chí học thuật đang cố gắng theo kịp tốc độ chóng mặt của những công nghệ mới nổi này dường như đang phát triển và phát triển mạnh mẽ hơn từng phút. Duma nói với The Daily Beast rằng nhật ký của ông Biên niên sử của kỹ thuật y sinh gần đây đã ban hành một chính sách mới cấm các LLM được liệt kê là đồng tác giả và không cho phép các bài báo đó được xuất bản dưới dạng các bài báo nghiên cứu thông thường.

Duma nói: “Quyền tác giả rất nghiêm túc và đó là điều mà chúng tôi rất coi trọng. “Vì vậy, bất cứ khi nào chúng tôi có một bài báo, các tác giả phải ký rằng họ đã đóng góp đáng kể cho bài báo. Đó là điều mà ChatGPT không thể tham gia. ChatGPT không thể là tác giả.”

Tuy nhiên, ông thừa nhận rằng những công cụ này vẫn ở đây. Nói khác đi sẽ không chỉ là thiếu hiểu biết—nó thậm chí có thể gây nguy hiểm vì nó sẽ không cho phép ngành công nghiệp thích ứng theo. “Tôi nghĩ mọi người cần thắt dây an toàn và sẵn sàng cho điều đó,” Duma nói. “Nó ở đây và nó sẽ là một phần trong cuộc sống của chúng ta, và có lẽ sẽ ngày càng trở thành một phần khi chúng ta tiến về phía trước.”

Trong khi đó, Biswas có kế hoạch tiếp tục sử dụng ChatGPT để hỗ trợ quá trình viết của anh ấy trong tương lai. Anh ấy đặc biệt hào hứng với việc phát hành ChatGPT phiên bản mới nhất và các tính năng mới của nó, đặc biệt là khả năng đa phương thức của nó. Đây là khả năng của mô hình để hiểu hình ảnh cũng như đầu vào văn bản — điều mà ông nói sẽ đại diện cho một bước ngoặt khác trong mối quan hệ giữa AI và các nhà nghiên cứu.

Biswas cho biết: “Hình ảnh thành văn bản là một công cụ thay đổi cuộc chơi, đặc biệt là đối với X quang vì hình ảnh là những gì chúng tôi làm. “Nếu điều đó sẽ giúp ích cho chúng tôi, thì tôi nghĩ mình sẽ xuất bản thêm một số bài báo khám phá nó—bởi vì nếu tôi không làm thì sẽ có người khác làm.”

goznews

Goz News: Update the world's latest breaking news online of the day, breaking news, politics, society today, international mainstream news .Updated news 24/7: Entertainment, Sports...at the World everyday world. Hot news, images, video clips that are updated quickly and reliably.

Related Articles

Back to top button