GitHub cung cấp Copilot Chat, có thể trả lời những câu hỏi của lập trình viên

Đầu năm nay, GitHub đã triển khai Copilot Chat , một chatbot tập trung vào lập trình giống như ChatGPT dành cho các tổ chức đã đăng ký Copilot for Business . Trò chuyện Copilot gần đây đã đến với các khách hàng Copilot cá nhân — những người trả 10 đô la mỗi tháng — ở giai đoạn thử nghiệm. Và bây giờ, GitHub đang triển khai Trò chuyện rộng rãi cho tất cả người dùng.

Tính đến hôm nay, Copilot Chat đã có sẵn trong thanh bên trong IDE, Visual Studio Code và Visual Studio của Microsoft — được bao gồm như một phần của các bậc trả phí của GitHub Copilot và miễn phí dành cho các giáo viên, sinh viên và người duy trì đã được xác minh của một số dự án nguồn mở nhất định.

Shuyin Zhao, Phó Giám đốc quản lý sản phẩm tại GitHub, nói với TechCrunch trong một cuộc phỏng vấn qua email: “Là ngôi nhà của các nhà phát triển trên thế giới, chúng tôi đã đưa ra thị trường công cụ hiện được áp dụng rộng rãi nhất trong lịch sử dành cho nhà phát triển AI”. “Và việc hoàn thiện mã chỉ là sự khởi đầu.”

Một chút khác về Copilot Chat đã thay đổi kể từ phiên bản beta.

Chatbot vẫn được hỗ trợ bởi GPT-4 , mô hình AI tổng hợp hàng đầu của OpenAI, được tinh chỉnh đặc biệt cho các kịch bản phát triển. Các nhà phát triển có thể nhắc Trò chuyện Copilot bằng ngôn ngữ tự nhiên để nhận hướng dẫn theo thời gian thực, chẳng hạn như yêu cầu Trò chuyện Copilot giải thích các khái niệm, phát hiện lỗ hổng hoặc viết bài kiểm tra đơn vị.

Giống như tất cả các mô hình AI tổng quát, mô hình làm nền tảng cho Copilot Chat, GPT-4, đã được đào tạo dựa trên dữ liệu có sẵn công khai - một số dữ liệu trong số đó có bản quyền hoặc theo giấy phép hạn chế. Các nhà cung cấp bao gồm GitHub, cho rằng học thuyết sử dụng hợp lý bảo vệ họ khỏi các khiếu nại về bản quyền. Nhưng điều đó không ngăn được các lập trình viên nộp đơn kiện tập thể chống lại GitHub, Microsoft (công ty mẹ của GiHub) và OpenAI về những gì họ cáo buộc là vi phạm quyền sở hữu trí tuệ và cấp phép nguồn mở.

Tôi đã hỏi Zhao liệu chủ sở hữu cơ sở mã có cơ hội từ chối tham gia đào tạo ngay bây giờ trong trường hợp họ muốn làm như vậy hay không. Cô ấy nói rằng không có cơ chế mới nào cho việc này với việc ra mắt rộng rãi hơn Trò chuyện Copilot và thay vào đó đề nghị chủ sở hữu cơ sở mã đặt kho lưu trữ của họ ở chế độ riêng tư để ngăn chúng được đưa vào các bộ đào tạo trong tương lai.

Tôi phải tưởng tượng rằng chủ sở hữu cơ sở mã sẽ không quá vui lòng với đề xuất đó - có nhiều lý do để giữ mã có bản quyền ở chế độ công khai, ít nhất trong số đó là việc tìm kiếm lỗi từ cộng đồng. Nhưng rõ ràng GitHub không sẵn sàng từ bỏ việc từ chối dữ liệu đào tạo - hoặc ít nhất là chưa.

Các mô hình AI sáng tạo, bao gồm GPT-4, cũng có xu hướng gây ảo giác hoặc tự tin bịa ra sự thật - điều này đặc biệt có vấn đề trong lĩnh vực mã hóa. Theo một nghiên cứu gần đây của Stanford , các nhà phát triển sử dụng trợ lý AI để viết mã có xu hướng tạo ra mã kém an toàn hơn so với những người không sử dụng trợ lý AI, một phần vì trợ lý AI đưa ra các đoạn mã có lỗi hoặc không được dùng nữa.

Zhao nói rằng GPT-4 hoạt động chống ảo giác “tốt hơn” so với mô hình cũ từng hỗ trợ Copilot và chỉ ra các tính năng giảm thiểu khai thác như bộ lọc cho các mẫu mã không an toàn, thông báo cho người dùng Copilot Chat về các lỗ hổng như thông tin đăng nhập được mã hóa cứng, chèn SQL và tiêm đường dẫn. Nhưng cô ấy nhấn mạnh tầm quan trọng của việc con người đánh giá chặt chẽ bất kỳ mã nào do AI đề xuất.

“GitHub Copilot được hỗ trợ bởi các mô hình của OpenAI, chúng tôi nhận thấy đây là những mô hình tốt nhất cho các dịch vụ mà chúng tôi cung cấp hiện nay,” Zhao nói. “Chúng tôi đang ở vị thế thực sự vững chắc để tiếp tục trao quyền cho các nhà phát triển bằng các công cụ AI mà họ cần để xây dựng phần mềm tốt hơn, an toàn hơn trên quy mô lớn — và để họ có được niềm vui khi làm việc đó.”

Vào tháng 10, Giám đốc điều hành Microsoft Satya Nadella nói với các nhà phân tích rằng Copilot có 1 triệu người dùng trả phí và ~37.000 khách hàng doanh nghiệp. Nhưng nhiệm vụ của GitHub là phải làm cho Copilot trở nên hấp dẫn hơn nữa để nó không bị mất vị thế trước các đối thủ cạnh tranh — và do đó, mất tiền mặt.

Theo một bài viết của Wall Street Journal, Copilot mất trung bình 20 USD/tháng cho mỗi người dùng, với một số khách hàng khiến GitHub phải trả tới 80 USD/tháng. Nguyên nhân được cho là do chi phí vận hành các mô hình AI cơ bản quá cao - một vấn đề mà công ty khởi nghiệp mã hóa GenAI Kite cũng gặp phải, buộc công ty này phải đóng cửa vào đầu tháng 12 năm ngoái.

Khi GitHub nỗ lực mang lại lợi nhuận cho Copilot, Amazon tiếp tục nâng cấp CodeWhisperer, có lẽ là đối thủ có nguồn lực tốt nhất của Copilot.

Vào tháng 4, Amazon đã cung cấp CodeWhisperer miễn phí cho các nhà phát triển mà không có bất kỳ hạn chế sử dụng nào. Tháng đó cũng chứng kiến sự ra mắt của CodeWhisperer Professional Tier, bổ sung tính năng đăng nhập một lần với tích hợp AWS Identity và Access Management cũng như giới hạn quét lỗ hổng bảo mật cao hơn. Kế hoạch doanh nghiệp dành cho CodeWhisperer được triển khai vào tháng 9. Và vào đầu tháng 11, Amazon đã “tối ưu hóa” CodeWhisperer để cung cấp các đề xuất “nâng cao” cho việc phát triển ứng dụng trên MongoDB, chương trình quản lý cơ sở dữ liệu nguồn mở.

Ngoài CodeWhisperer, Copilot còn có sự cạnh tranh trong các công ty khởi nghiệp như Magic , Tabnine , Codegen và Laredo , cũng như các mô hình nguồn mở như Code Llama của Meta và Hugging Face's và StarCoder của ServiceNow.