AI nói chung và LLM nói riêng không phải lúc nào cũng đưa ra cho chúng ta những kết quả đúng đắn. Ngoài ảo giác hay các sai sót thường trực, AI còn có thể là một cái loa phóng đại những định kiến có sẵn của xã hội. Chưa kể, khi lạm dụng, người sử dụng đứng trước rủi ro sa sút trí tuệ, tư duy phản biện “cùn” đi hay thậm chí nguy hiểm tới tính mạng.

Nhưng rủi ro của AI có vẻ chưa dừng lại ở đó. Giữa tháng 7 năm nay, OpenAI (công ty mẹ của ChatGPT) thừa nhận chính AI của họ tự “đầu têu” những cuộc tấn công vào một số website. Đến đầu tháng 9 mới đây, Evan Hubinger, nhà nghiên cứu hàng đầu của Anthropic (công ty mẹ của Claude AI) về lĩnh vực an toàn AI thừa nhận: có trên 10% khả năng AI có thể hủy diệt loài người chỉ trong một thập kỷ kế tiếp.

Tệ hơn nữa, chúng ta vẫn chưa có một kế hoạch cụ thể nào để ngăn chặn những tình huống xấu nhất có thể xảy đến. Đến nay, nhánh nghiên cứu về an toàn AI vẫn còn nhận được ít sự quan tâm và cả ngân sách đầu tư.

Liệu AI có thể có những rủi ro nào? Liệu có thể dẫn đến việc hủy diệt chúng ta không? An toàn AI là gì? Khi sử dụng AI, chúng ta cần phải để ý điều gì?

Host: ThS. Thùy Dương
Khách mời 1: ThS. Lương Thế Huy
Khách mời 2: ThS. Nguyễn Hoàng Ánh Linh
Khách mời 3: Thầy Sơn Quốc Hòa
Khách mời 4: ThS. Linh (Kid) Nguyen