ChatGPT đang nổi lên như một hiện tượng thú vị khi được nhắc đến rất nhiều trên các trang mạng xã hội. Trên LinkedIn, Slack, Twitter, email và tin nhắn văn bản, mọi người đang chia sẻ các ví dụ được tạo bằng ChatGPT, mô hình trí tuệ nhân tạo (AI) mới được phát triển từ cuối tháng 11/2022, đứng sau bởi các nhà phát triển từ OpenAI.

Sử dụng ChatGPT, có thể tạo cuộc đối thoại có âm thanh chân thực có thể được sử dụng cho hầu hết mọi thứ - từ trả lời các câu hỏi tiếp theo trong cuộc đối thoại trò chuyện trực tuyến đến viết thơ. Có rất nhiều cơ hội để các doanh nghiệp tận dụng công nghệ chatbot mới, bao gồm hỗ trợ doanh nghiệp và tương tác với khách hàng. Khả năng tạo nội dung nhanh chóng và theo các nhà phát triển của nó là "trả lời các câu hỏi tiếp theo, thừa nhận sai lầm, thách thức các cơ sở không chính xác và từ chối các yêu cầu không phù hợp", mở ra nhiều cơ hội và một số thách thức mới.

Trí tuệ nhân tạo và máy học (ML) đang nhanh chóng chuyển từ các giải pháp thích hợp trong các tình huống doanh nghiệp có chi phí cao/phần thưởng cao sang các giải pháp triển khai mở rộng hơn có thể giải quyết nhiều thách thức của doanh nghiệp, đặc biệt là những thách thức tập trung vào người dùng cuối. Ví dụ, an ninh mạng hiện đang áp dụng các phương pháp tiếp cận dựa trên AI để cung cấp khả năng bảo vệ tốt hơn với các nhóm bảo mật nhỏ hơn. Một ví dụ nêu bật cách các tổ chức có thể sử dụng AI/ML để thực hiện kiểm tra động, dựa trên rủi ro khi ai đó cố gắng truy cập vào các ứng dụng hoặc dữ liệu nhạy cảm. Điều này thay thế các phương pháp cũ hơn, dựa trên chính sách, có thể mất nhiều thời gian và sự tương tác của con người để phát triển và duy trì các chính sách truy cập riêng lẻ. Trong một công ty lớn hơn, việc duy trì các chính sách đó có thể bao gồm hàng trăm, thậm chí hàng nghìn ứng dụng và kho dữ liệu.

Sử dụng AI để đạt hiệu quả cao hơn

Mối quan tâm đến AI đang tiếp tục bùng nổ khi các cuộc tấn công hiện đại đòi hỏi khả năng phát hiện và phản hồi nhanh chóng đối với hành vi bất thường của người dùng - điều mà một mô hình AI có thể được đào tạo để xác định nhanh chóng, nhưng lại cần sức người đáng kể để thử và sao chép thủ công. Mục tiêu của AI là tăng hiệu quả và độ tin cậy đồng thời giảm thiểu ma sát (tăng thời gian) và cải thiện giao diện người dùng cho người dùng thông thường. Ví dụ, ô tô tự lái được thiết kế để tăng tính an toàn và bảo mật cho người dùng cuối. Trong an ninh mạng, đặc biệt là trong xác thực người dùng (con người và không phải con người), các phương pháp tiếp cận dựa trên AI đang phát triển nhanh chóng, hoạt động với các hệ thống dựa trên quy tắc để cải thiện trải nghiệm cho người dùng cuối.

Trong một thế giới kỹ thuật số ngày càng hiện đại, những kẻ tấn công có thể bỏ qua việc phát hiện xác thực danh tính nhị phân, bao gồm vị trí, thiết bị, mạng và các kiểm tra khác. Chắc chắn tội phạm mạng cũng sẽ xem xét các cơ hội mới mà ChatGPT mở ra. Các công cụ AI tương tác theo cách đối thoại có thể bị tội phạm mạng lợi dụng để khởi chạy các chiến dịch lừa đảo hoặc chiếm đoạt tài khoản đầy thuyết phục.

Trước đây, việc phát hiện một cuộc tấn công lừa đảo có thể dễ dàng hơn do ngữ pháp kém, cách diễn đạt bất thường hoặc lỗi chính tả thường gặp trong các email lừa đảo. Điều đó đang phát triển nhanh chóng với các giải pháp như ChatGPT, sử dụng quá trình xử lý ngôn ngữ tự nhiên để tạo thông báo ban đầu và sau đó tạo phản hồi thực tế cho câu hỏi của người dùng mục tiêu mà không cần bất kỳ dấu hiệu nhận biết nào.

Suy nghĩ lại về các phương pháp bảo mật

Để chuẩn bị cho các cuộc tấn công được tăng cường bởi chatbot, các tổ chức, doanh nghiệp cần suy nghĩ lại về các phương pháp bảo mật để giảm thiểu các mối đe dọa tiềm ẩn. Năm biện pháp họ có thể thực hiện bao gồm: Thứ nhất, cập nhật giáo dục nhân viên về các rủi ro lừa đảo. Những nhân viên hiểu cách ChatGPT có thể được tận dụng có thể sẽ thận trọng hơn khi tương tác với chatbot và các giải pháp hỗ trợ AI khác, từ đó tránh trở thành nạn nhân của các kiểu tấn công này.

Thứ hai, triển khai các giao thức xác thực mạnh để khiến kẻ tấn công khó truy cập vào tài khoản hơn. Những kẻ tấn công đã biết cách lợi dụng việc người dùng đã mệt mỏi với việc xác thực lại thông qua các công cụ xác thực đa yếu tố (MFA), vì vậy, việc tận dụng AI/ML để xác thực người dùng thông qua đối sánh dấu vân tay kỹ thuật số và tránh hoàn toàn mật khẩu có thể giúp tăng cường bảo mật đồng thời giảm bớt sự mệt mỏi của MFA;

Thứ ba, áp dụng mô hình không tin cậy. Bằng cách chỉ cấp quyền truy cập sau khi xác minh và đảm bảo quyền truy cập ít đặc quyền nhất, các nhà lãnh đạo bảo mật có thể tạo ra một môi trường mà ngay cả khi kẻ tấn công tận dụng ChatGPT để tiếp cận những người dùng không nghi ngờ, tội phạm mạng vẫn sẽ phải xác minh danh tính của họ và thậm chí sau đó, sẽ chỉ có quyền truy cập đến nguồn tài nguyên hạn chế. Việc giới hạn quyền truy cập không chỉ của các nhà phát triển mà còn của lãnh đạo, bao gồm cả lãnh đạo kỹ thuật, ở mức truy cập ít nhất cần thiết để thực hiện công việc của họ một cách hiệu quả, ban đầu có thể gặp phải sự phản đối, nhưng sẽ khiến kẻ tấn công khó lợi dụng bất kỳ quyền truy cập trái phép nào để đạt được lợi ích.

Thứ tư, giám sát hoạt động trên các tài khoản công ty và sử dụng các công cụ, bao gồm bộ lọc thư rác, phân tích hành vi và lọc từ khóa, để xác định và chặn thư độc hại. Nhân viên của một doanh nghiệp không thể trở thành nạn nhân của một cuộc tấn công lừa đảo, cho dù ngôn ngữ có tinh vi đến đâu, nếu họ không bao giờ nhìn thấy tin nhắn. Cách ly các tin nhắn độc hại dựa trên hành vi và mối quan hệ của những người liên lạc thay vì các từ khóa cụ thể có nhiều khả năng chặn các tác nhân độc hại hơn.

Thứ năm, tận dụng AI. Các cuộc tấn công mạng đã tận dụng AI và ChatGPT chỉ là một cách nữa mà chúng sẽ sử dụng để giành quyền truy cập vào môi trường của tổ chức bạn. Các tổ chức phải tận dụng các khả năng do AI/ML cung cấp để cải thiện an ninh mạng và phản ứng nhanh hơn trước các mối đe dọa cũng như hành vi vi phạm tiềm ẩn.

Việc chiếm đoạt tài khoản thông qua kỹ thuật xã hội (tấn công phi kỹ thuật) hay còn gọi là lừa đảo, tận dụng mật khẩu từ các vụ vi phạm dữ liệu và các cuộc tấn công lừa đảo sẽ trở nên thường xuyên hơn và thành công hơn - bất chấp các biện pháp phòng vệ tốt nhất. Cùng với sự hỗ trợ của công cụ mới ChatGPT như ‘hổ mọc thêm cánh’ đối với các nhóm tội phạm mạng. Bằng cách cập nhật và áp dụng những cách tiếp cận trên, các tổ chức, doanh nghiệp có thể giúp giảm thiểu rủi ro cho chính họ và nhân viên của họ khi chatbot và các công cụ AI khác được sử dụng cho mục đích xấu.