Những nhân viên này cho rằng dự án của Lầu Năm Góc có thể gây đau khổ cho con người.
Tuần trước, Google đã chính thức ngừng bỏ thầu dự án Joint Enterprise Defense Infrastructure (JEDI), một hợp đồng cung cấp dịch vụ điện toán đám mây khổng lồ có giá trị tới 10 tỷ USD. Gã khổng lồ tìm kiếm đưa ra quyết định này sau khi bị nhân viên phản đối và lo ngại dự án có thể vi phạm các nguyên tắc đạo đức về AI mà Google đã tự đặt ra.
Và nay, một nhóm nhân viên Microsoft với số lượng không xác định đã đăng tải bức thư ngỏ yêu cầu Microsoft từ bỏ dự án JEDI.
Trong lá thư, được đăng tải trên Medium, các nhân viên viết rằng họ gia nhập Microsoft với kỳ vọng rằng các công nghệ họ xay dựng sẽ không gây hại hoặc gây đau khổ cho con người. Họ cũng cáo buộc rằng để đạt được lợi nhuận ngắn hạn các giám đốc của Microsoft đang phản bộ những nguyên tắc AI mà công ty đặt ra.
Bức thư cũng nhấn mạnh vào phát ngôn của Phó chánh văn phòng Bộ Quốc phòng Mỹ, John H. Gibson II, cho rằng mục đích thực sự của JEDI là tăng mức độ hủy diệt của quân đội Mỹ.
"JEDI là một dự án bí mật trị giá 10 tỷ USD với tham vọng xây dựng lực lượng quân sự có sức hủy diệt cao hơn. Các nhân viên của Google đã phản đối dự án này và buộc công ty phải hành động. Chúng tôi cũng vậy", các nhân viên Microsoft viết. "Vì vậy, chúng tôi muốn khỏi rằng nguyên tắc AI của Microsoft là gì, đặc biệt là cách triển khai công nghệ AI mạnh mẽ cho hành vi bạo lực. Liệu những nhân viên, những người xây dựng và bảo trì các dịch vụ này có biết rằng cố gắng của họ được dùng để hỗ trợ, giám sát hoặc giết người hay không? Quyết định theo đuổi dự án JEDI của Microsoft cho thấy cần phải có những nguyên tắc đạo đức rõ ràng, cần có trách nhiệm giải trình, minh bạch và sự giám sát. Microsoft, đừng tham gia đấu thầu JEDI!".
Theo Fedscoop, bức thư này được đăng tải vài giờ trước khi Lầu Năm Góc chốt hồ sơ dự thầu cho JEDI.
Chia sẻ với Daily Telegraph, phát ngôn viên của Microsoft nói: "Microsoft đã đệ trình hồ sơ dự thầu JEDI từ ngày 12/10. Mặc dù chúng tôi không có cách kiểm tra tính xác thực của bức thư này nhưng chúng tôi luôn khuyến khích nhân viên chia sẻ quan điểm của họ với chúng tôi".
Về cơ bản, JEDI là một nỗ lực nhằm đưa toàn bộ hệ thống của quân đội Mỹ chạy trên một dịch vụ điện toán đám mây duy nhất. Điều này giúp cải thiện mọi thứ, từ tốc độ truyền tập tin cơ bản tới các tác vụ như tự động phân tích hình ảnh giám sát và dịch thuật tài liệu quan trọng... Vì những sự cải thiện đó có thể được dùng để hỗ trợ những chiến dịch quân sự nên các nhân viên tại một số công ty cho rằng hãng thắng thầu JEDI về cơ bản sẽ trở thành một phần trong cỗ máy chiến tranh Hoa Kỳ.
Ngoài sự phản đối của các nhân viên, JEDI còn gây tranh cãi bởi dường như xác định trước hãng thắng thầu là Amazon. Trước khi rút lui vì vấn đề đạo đức Google cùng Microsoft, IBM và Oracle đều ủng hộ việc tách JEDI ra thành từng phần nhỏ. Họ cho rằng việc sử dụng một nhà thầu duy nhất cho JED sẽ tạo ra vị thế độc quyền trong thị trường quốc phòng. Amazon được coi là ứng cử viên sáng giá nhất bởi trước đọ họ đã ký với CIA một hợp đồng trị giá 600 triệu USD.
Theo Tri thức trẻ
