Tội phạm mạng đang lợi dụng ChatGPT

Cho dù đó là viết luận hay phân tích dữ liệu, ChatGPT có thể được sử dụng để giảm bớt khối lượng công việc của một người. Và điều này cũng xảy ra với tội phạm mạng.

Sergey Shykevich, nhà nghiên cứu ChatGPT hàng đầu tại công ty an ninh mạng Checkpoint security, đã chứng kiến tội phạm mạng khai thác sức mạnh của AI để tạo mã có thể được sử dụng trong một cuộc tấn công ransomware.

Nhóm của Shykevich bắt đầu nghiên cứu khả năng AI có thể tiếp tay cho tội phạm mạng vào tháng 12 năm 2021. Bằng cách sử dụng mô hình ngôn ngữ lớn của AI, họ đã tạo ra thử các email lừa đảo và mã độc. Khi rõ ràng ChatGPT có thể được sử dụng cho các mục đích bất hợp pháp, Shykevich nói với Insider rằng nhóm muốn xem liệu phát hiện của họ có phải là "lý thuyết" hay liệu họ có thể tìm thấy "những kẻ xấu đang sử dụng nó ngoài thực tế hay không".

Vì rất khó để biết liệu một email có hại được gửi tới hộp thư đến của ai đó có được viết bằng ChatGPT hay không, nên nhóm của anh ấy đã chuyển sang trang dark web để xem ứng dụng này đang được sử dụng như thế nào.

Vào ngày 21 tháng 12 năm 2022, họ đã tìm thấy bằng chứng đầu tiên: tội phạm mạng đang sử dụng chatbot AI ChatGPT này để tạo một tập lệnh python có thể được sử dụng trong một cuộc tấn công bằng phần mềm độc hại. Shykevich nói rằng mã có một số lỗi, nhưng phần lớn là chính xác.

Shykevich nói rằng ChatGPT và Codex, một dịch vụ OpenAI có thể viết mã cho các nhà phát triển, sẽ "cho phép những người ít kinh nghiệm hơn được coi là nhà phát triển thuần thục dễ dàng".

Việc lạm dụng ChatGPT ngoài việc vốn đã gây rắc rối cho công cụ Bing đang khiến các chuyên gia an ninh mạng lo lắng, mà nhiều người cũng bắt đầu nhận thấy tiềm năng chatbot AI này hỗ trợ trong các cuộc tấn công lừa đảo, phần mềm độc hại và hack mạng.

Justin Fier, giám đốc Cyber Intelligence & Analytics tại Darktrace, một công ty an ninh mạng, nói với Insider rằng, khi nói đến các cuộc tấn công lừa đảo, ChatGPT có thể giúp mọi người tạo ra hàng tá email lừa đảo được nhắm mục tiêu một cách hiệu quả — miễn là họ tạo ra những gợi ý tốt đầu vào cho công cụ này.

Một "phim khoa học viễn tưởng'

Đầu tháng 2, công ty an ninh mạng Blackberry đã công bố một cuộc khảo sát từ 1.500 chuyên gia công nghệ thông tin, 74% trong số họ cho biết họ lo lắng về việc ChatGPT hỗ trợ tội phạm mạng.

Cuộc khảo sát cũng cho thấy 71% tin rằng, ChatGPT có thể đã được các quốc gia sử dụng để tấn công các quốc gia khác thông qua các nỗ lực hack và lừa đảo.

Shishir Singh, Giám đốc Công nghệ tại công ty an ninh mạng Blackberry cho biết: "Đã có tài liệu rõ ràng rằng những người có mục đích xấu đang thử nghiệm "vùng biển" này, và chúng tôi đoán rằng tin tặc sẽ xử lý tốt hơn nhiều về cách sử dụng ChatGPT thành công cho các mục đích bất chính".

Singh nói với Insider rằng những lo ngại này bắt nguồn từ sự tiến bộ nhanh chóng của AI trong năm qua. Các chuyên gia đã nói rằng những tiến bộ trong các mô hình ngôn ngữ lớn — hiện nay đã thành thạo hơn trong việc bắt chước lời nói của con người — đã tiến triển nhanh hơn dự kiến. Singh đã mô tả những đổi mới nhanh chóng như một thứ gì đó bước ra từ "bộ phim khoa học viễn tưởng".

Việc tội phạm mạng sử dụng ChatGPT có thể là trách nhiệm đối với Open AI

Khi tội phạm mạng bắt đầu thêm những thứ như ChatGPT vào bộ công cụ của chúng, các chuyên gia như cựu công tố viên liên bang Edward McAndrew đang tự hỏi liệu các công ty có chịu trách nhiệm về những tội ác này hay không.

Ví dụ: McAndrew, người đã làm việc với Bộ Tư pháp điều tra tội phạm mạng, đã chỉ ra rằng nếu ChatGPT hoặc một chatbot giống như vậy, khuyên ai đó trở thành phạm tội mạng hay hỗ trợ cho hacker tấn công mạng, thì đó có thể là trách nhiệm pháp lý đối với các công ty hỗ trợ các chatbot này hay không.

Khi xử lý nội dung bất hợp pháp hoặc tội phạm trên trang web của họ từ người dùng bên thứ ba, hầu hết các công ty công nghệ đều viện dẫn Mục 230 của Đạo luật về khuôn phép trong giao tiếp năm 1996. Đạo luật quy định rằng các nhà cung cấp trang web cho phép mọi người đăng nội dung như trên Facebook hoặc Twitter, mà vẫn không phải chịu trách nhiệm về phát ngôn trên nền tảng của họ.

Tuy nhiên, vì nội dung đến từ chính chatbot, McAndrew cho biết luật có thể không bảo vệ OpenAI khỏi các vụ kiện dân sự hoặc truy tố — mặc dù các phiên bản nguồn mở có thể khiến việc ràng buộc tội phạm mạng trở lại với OpenAI sẽ trở nên khó khăn hơn.

Phạm vi bảo vệ pháp lý cho các công ty công nghệ theo Mục 230 cũng đang bị thách thức trong tuần này trước Tòa án Tối cao bởi một gia đình của một phụ nữ bị những kẻ khủng bố ISIS giết vào năm 2015. Gia đình này lập luận rằng, Google phải chịu trách nhiệm pháp lý về thuật toán của họ quảng cáo các video cực đoan.

McAndrew cũng cho biết ChatGPT cũng có thể cung cấp một "kho tàng thông tin" cho những người được giao nhiệm vụ thu thập bằng chứng cho những tội ác như vậy, nếu họ muốn gửi trát hầu tòa cho các công ty như OpenAI.

McAndrew nói: "Đó là những câu hỏi thực sự thú vị đã mất nhiều năm rồi, nhưng như chúng ta thấy nó đã đúng kể từ buổi bình minh của Internet, bọn tội phạm là một trong những đối tượng chấp nhận sớm nhất. Và chúng ta đang chứng kiến điều đó một lần nữa, với rất nhiều quan điểm khắc nghiệt gắn liền với ChatGPT".

McAndrew cho biết, ông thấy một cuộc tranh luận chính sách về cách Hoa Kỳ — và thế giới nói chung — sẽ thiết lập các thông số cho AI và các công ty công nghệ. Hiện Open AI đã không trả lời ngay lập tức yêu cầu bình luận nào của tờ Insider về câu chuyện này.