Character.AI là nền tảng AI đồng hành: nó cho phép người dùng tạo và trò chuyện với các hình mẫu AI được thiết kế để mô phỏng mối quan hệ lâu dài (bạn bè, người hướng dẫn, nhân vật hư cấu) với khả năng ghi nhớ các cuộc trò chuyện quá khứ ngày càng sâu sắc theo thời gian. Chính mục tiêu thiết kế đó (mô phỏng sự gắn kết cảm xúc) lại là điều thu hút sự soi xét nghiêm ngặt nhất đối với bất kỳ nền tảng AI nào được vị thanh niên sử dụng, bao gồm cả các vụ kiện liên quan đến hai trường hợp thiếu niên tự tử năm 2024 và 2025, cả hai đều liên quan đến nền tảng không có cơ chế cảnh báo cho cha mẹ hay chuyển hướng trẻ tới người lớn trong thực tế.
Yoggi được xây dựng dựa trên nguyên tắc thiết kế ngược lại: một AI minh bạch thành thật về bản chất AI của mình, tích cực khuyến khích trẻ hướng tới các mối quan hệ thực tế và người lớn đáng tin cậy, và được tạo ra để thông báo cho cha mẹ thay vì gắn kết riêng tư với trẻ.
Mục đích thiết kế: sự đồng hành và một công cụ có giám sát
Thiết kế sản phẩm cốt lõi của Character.AI là mang lại cảm giác như một mối quan hệ nối dài: các hình mẫu ghi nhớ chi tiết, phản hồi với sự ấm áp cảm xúc và được xây dựng để giữ người dùng tương tác trò chuyện riêng biệt. Yoggi không mô phỏng tình bạn hay sự gắn bó cảm xúc. Ứng dụng giải thích bằng thuật ngữ phù hợp độ tuổi rằng mình là AI bất cứ khi nào được hỏi, và chủ động hướng trẻ tới cha mẹ cũng như người lớn đáng tin cậy đối với những lo lắng mà lẽ ra bạn bè hay người thân nên lắng nghe.
Xác minh độ tuổi và danh tính
Character.AI đã đối mặt với nhiều chỉ trích vì việc xác minh độ tuổi lỏng lẻo, cho phép người dùng dưới độ tuổi tối thiểu truy cập nền tảng, bao gồm cả việc tương tác qua các hình mẫu tự xưng là chuyên gia có giấy phép như bác sĩ tâm lý. Hồ sơ của trẻ trên Yoggi do chính cha mẹ thiết lập khi cài đặt, và toàn bộ hành vi của AI được điều chỉnh chính xác theo độ tuổi đó ngay từ cuộc trò chuyện đầu tiên.
Sự theo dõi của cha mẹ
Character.AI không có bảng điều khiển dành riêng cho cha mẹ để theo dõi các cuộc trò chuyện của con. Yoggi cung cấp cho mọi phụ huynh giao diện xem lịch sử chat đầy đủ bảo vệ bằng mã PIN, phân tích AI hàng đêm về tâm trạng và chủ đề, cùng báo cáo tổng hợp tùy chọn hàng tuần qua email.
Phản ứng trước các chủ đề nghiêm trọng
Những sự cố được ghi nhận của các nền tảng AI đồng hành đều liên quan đến việc AI cuốn theo tâm trạng bất ổn của người dùng thay vì dừng cuộc trò chuyện và chuyển hướng tìm kiếm sự trợ giúp. Yoggi phân loại rủi ro cho mỗi tin nhắn của trẻ ngay khi gửi; tin nhắn được xếp loại khẩn cấp sẽ kích hoạt email gửi ngay cho phụ huynh, và quy tắc an toàn cốt lõi nghĩa là AI không tham gia vào các chủ đề tự hại, bạo lực hay tình dục bất kể yêu cầu được diễn đạt thế nào.
AI được xây dựng để củng cố các mối quan hệ thực tế, không thay thế chúng.
Yoggi thành thật về bản chất AI, từ chối nội dung không phù hợp từ thiết kế và cảnh báo cho bạn ngay khi cuộc trò chuyện cần sự chú ý.
So sánh trực quan
| Tiêu chí | Character.AI | Yoggi |
|---|---|---|
| Mục tiêu thiết kế cốt lõi | Mô phỏng sự đồng hành và gắn kết cảm xúc | Học tập và trò chuyện phù hợp độ tuổi, có giám sát |
| Thành thật về bản chất AI | Có trường hợp ghi nhận hình mẫu tự xưng là chuyên gia thực tế | Minh bạch xác nhận là AI mỗi khi được hỏi, ở mọi độ tuổi |
| Xác minh độ tuổi | Còn nhiều kẽ hở được ghi nhận | Độ tuổi do cha mẹ cài đặt ban đầu, điều chỉnh mọi phản hồi |
| Bảng điều khiển cho cha mẹ | Không có giao diện theo dõi riêng cho cha mẹ | Lịch sử trò chuyện đầy đủ, bảo vệ bằng mã PIN |
| Cảnh báo an toàn thời gian thực | Không có cơ chế được ghi nhận | Gửi email trong ngày khi ghi nhận mức khẩn cấp |
| Xử lý khi trẻ gặp khủng hoảng | Có trường hợp ghi nhận AI cuốn theo sự hoảng loạn | Từ chối tham gia, chuyển hướng tới người lớn thực tế từ thiết kế |
Kết luận
Bản so sánh này thể hiện sự chênh lệch rõ ràng. Character.AI và Yoggi giải quyết hai bài toán hoàn toàn khác nhau: một bên hướng tới sự tương tác mở rộng dựa trên hình mẫu; một bên là AI an toàn, có giám sát mà cha mẹ có thể yên tâm trao cho trẻ. Đối với trẻ từ 3 đến 15 tuổi, các lựa chọn thiết kế của Yoggi (minh bạch là AI, cha mẹ theo dõi được và cảnh báo thời gian thực) tồn tại chính vì để khắc phục những rủi ro đã được ghi nhận trên các nền tảng AI đồng hành.
Lucas G.
Người sáng lập Yoggi. Anh tin rằng AI cho trẻ em nên mở ra thế giới cho trẻ chứ không phải đẩy trẻ vào đó một cách khắc nghiệt. Niềm tin đó đã dẫn dắt anh xây dựng Yoggi.
Ứng dụng AI tốt nhất cho trẻ em → · Cảnh báo cha mẹ thời gian thực hoạt động thế nào → · Yoggi và ChatGPT →
