66b là một mô hình ngôn ngữ lớn được thiết kế để xử lý ngôn ngữ tự nhiên, có khoảng 66 tỷ tham số và khả năng sinh văn bản, trả lời câu hỏi, và tham gia vào các nhiệm vụ đa ngôn ngữ.
66b được xây dựng trên nền tảng Transformer với nhiều lớp tự attention và feed-forward, được huấn luyện trên một tập dữ liệu đa dạng, bao gồm nhiều ngôn ngữ và chủ đề.
66b mang tới khả năng hiểu và sinh ngôn ngữ ở mức độ cao, nhưng vẫn đối mặt với rủi ro liên quan đến lỗi xã hội, thiên lệch dữ liệu, và yêu cầu tính riêng tư an toàn.
Trong doanh nghiệp và giáo dục, 66b có thể hỗ trợ tự động hoá văn bản, trợ lý ảo, phân tích cảm xúc và dịch máy chất lượng cao.
