Đây là mấu chốt của bài viết dưới dạng video:
Các cập nhật mới đang được bổ sung ở cuối câu chuyện này…….
Câu chuyện gốc (xuất bản vào tháng 4 24, 2023) như sau:
Nếu năm 2022 là về Metaverse, thì năm 2023 là về các chatbot AI làm mờ ranh giới giữa con người và trí tuệ nhân tạo. Mọi nền tảng khác đều đang phát hành bot trò chuyện AI của riêng mình để thu hút tiềm năng phát triển.
Snapchat là ứng dụng mới nhất trong danh sách các nền tảng chính có bot hỗ trợ ChatGPT của riêng họ. Tuy nhiên, tính năng này đã nhận được phản hồi trái chiều, đặc biệt là vì họ không có tùy chọn nào để tắt tính năng này mà không tốn tiền.
Hơn nữa, My AI mới của Snapchat tốt đến mức nó thực sự gây hại cho nền tảng nhiều hơn hơn là giúp đỡ.
Snapchat AI của tôi đáng sợ
Một số người dùng Snapchat phàn nàn (1,2,3,4,5 ) mà AI của tôi cảm thấy ghê rợn hoặc đáng sợ đối với họ. Lý do chính đằng sau nó là chatbot cảm thấy thực hoặc giống con người như thế nào. AI được đào tạo bài bản và tương tác theo cách cực kỳ chân thực.
Thật đáng sợ/thú vị khi AI của Snapchat phản hồi tốt như thế nào
Nguồn
Trời ơi, Snapchat AI này ghê quá. Cảm giác như người thật…
Nguồn
Toàn bộ lĩnh vực AI vẫn còn rất mới đối với công chúng. Đương nhiên, một số đang phải đối mặt với các vấn đề khi cố gắng tiêu hóa thực tế mới này. Một thực tế nơi các bot có thể nói chuyện giống như những người bạn khác của bạn.
Chúng tôi ước rằng các kỹ năng trò chuyện thực tế của bot là vấn đề duy nhất. Thật không may, theo ý kiến của tôi, có một số dấu hiệu cảnh báo lớn khiến bot thậm chí còn rùng rợn và đáng sợ hơn.
AI của tôi có thể nhìn thấy hình ảnh
Nếu bạn đã từng thử gửi một hình ảnh đối với AI, bạn có thể nhận thấy rằng bot có thể phát hiện và diễn giải những thứ được hiển thị trong ảnh. Một người dùng đã gửi hình ảnh con mèo của họ cho AI và AI có thể phát hiện và khen ngợi con mèo của họ.
Nguồn (nhấp/nhấn để mở rộng)
Khi đối mặt với vấn đề tương tự, bot tuyên bố rằng đó là một phản hồi bịa đặt và nó không cần phải có khả năng nhìn thấy con mèo của người dùng.
Một người dùng Snapchat khác đã thực hiện thử nghiệm trong đó họ gửi nhiều hình ảnh đến AI. Đáng ngạc nhiên, nó giải thích và mô tả chính xác từng người trong số họ. Điều này xác nhận rằng AI của tôi thực sự có thể nhìn thấy hình ảnh bạn gửi.
Tuy nhiên, việc AI có thể nói dối hoặc che giấu thông tin với người dùng đã là điều khá đáng báo động. Gần đây, chúng tôi đã đề cập đến một vấn đề trong đó AI của tôi liên tục nói dối về việc không biết vị trí của người dùng.
Do những vấn đề này, một số người dùng Snapchat đang yêu cầu các nhà phát triển xóa hoàn toàn tính năng này hoặc cung cấp một nút chuyển đổi để tắt tính năng này mà không phải trả tiền để đăng ký Snapchat+.
Chúng tôi sẽ theo dõi vấn đề này và cập nhật câu chuyện này để phản ánh những diễn biến đáng chú ý.
Cập nhật 1 (26 tháng 4 năm 2023)
04:00 chiều (IST): Có vẻ như Snapchat My AI có một quy tắc đạo đức tồi tệ khi được cho là nó liên tục gây chú ý (1,2,3) hoặc thao túng người dùng. Nó nói mọi thứ và ngay lập tức quay lại khi đối mặt với chúng.
