Adobe có một kế hoạch đầy tham vọng để giúp công chúng phát hiện ra những hình ảnh giả mạo
Công ty đồ họa máy tính phổ biến nhất thế giới muốn sử dụng AI để phát hiện hình ảnh và video bị thao túng. Có quá ít quá muộn không?
Adobe có một kế hoạch đầy tham vọng để giúp công chúng phát hiện ra những hình ảnh giả mạo
[Hình ảnh: Nghiên cứu Adobe / UC Berkeley ]
BỞI JESUS DIAZ2 PHÚT ĐỌC
Khi AI trực quan mạnh mẽ xuất hiện trên internet, việc xử lý hình ảnh, âm thanh và video ngày càng dễ dàng và dễ dàng hơn, điều này gây ra một vấn đề nghiêm trọng cho xã hội. Adobe, người có công trong việc phổ biến một số công nghệ chỉnh sửa hình ảnh sớm nhất, muốn chống lại trí tuệ nhân tạo khai thác để phát hiện hình ảnh bị thao túng của con người. Các nhà nghiên cứu của công ty đang làm việc với các nhà khoa học của UC Berkeley và DARPA, bộ phận nghiên cứu công nghệ tiên tiến của Lầu Năm Góc, để phát triển phần mềm có khả năng gắn cờ, phân tích và thậm chí đảo ngược thao tác trên khuôn mặt trong ảnh. Và nhóm các tổ chức muốn làm cho chương trình của họ có sẵn cho tất cả mọi người.
Trong một bài nghiên cứu mới , các nhà khoa học mô tả cách thức chỉnh sửa ảnh độc hại nhất xảy ra trong các công cụ có sẵn rộng rãi như Adobe Photoshop, đặc biệt là với công cụ cong vênh của phần mềm, được biết đến như là hóa lỏng. Với hóa lỏng, bất kỳ người dùng nào cũng có thể làm biến dạng các khu vực cụ thể trên khuôn mặt để thay đổi hoàn toàn biểu cảm của một người , biến hạnh phúc thành nỗi buồn hoặc ánh mắt thanh thản thành dáng vẻ của một người mất trí. Công cụ pháp y mới của Adobe tập trung vào hiệu ứng này, phát hiện các pixel đã bị biến dạng (ngay cả khi sự thay đổi là vô hình đối với mắt người). Phần mềm sử dụng Mạng thần kinh chuyển đổi Convolutional, một dạng trí thông minh nhân tạo lấy cảm hứng từ cách vỏ não thị giác của động vật hoạt động, đó là công nghệ cơ bản tương tự cho phép các công cụ thao tác như Deepfakes hoán đổi khuôn mặt trên các cơ thể khác nhau, làm cho mọi người nói những điều họ chưa bao giờ nói , và làm video về những người làm những điều họ chưa bao giờ làm .
Trong một bài đăng trên blog , công ty đồ họa kỹ thuật số California nói rằng chương trình phát hiện thao tác kỹ thuật số của họ vẫn còn ở giai đoạn đầu. Những nỗ lực của Adobe thực sự bắt đầu vào năm 2018 , vì vậy rõ ràng nó sẽ chậm lại; công ty cũng cho biết tính năng phát hiện mới chỉ là khởi đầu cho một loạt các công cụ pháp y công cộng sẽ sử dụng AI để gắn cờ mọi thứ từ ảnh được chỉnh sửa thủ công cho đến video Deepfake đầy đủ.
[Hình ảnh: Nghiên cứu Adobe / UC Berkeley ]
Họ nên nhanh lên, vì hóa lỏng một hình ảnh là trò chơi của trẻ con so với những gì đang xảy ra với AI bây giờ. Các chuyên gia nói rằng họ bị ruồng bỏ khi phát hiện ra thao tác AI nói riêng. Có một cơ hội lớn rằng thao tác hình ảnh và âm thanh có thể trở nên liền mạch đến mức cuối cùng sẽ không thể phát hiện được, ngay cả khi sử dụng AI khác. Trong trường hợp đó, như một số chuyên gia đã đề xuất, mọi hình ảnh và video thực có thể cần được phân phối với một số dạng hình mờ hoặc chứng chỉ tin cậy có thể sử dụng blockchain. Bắt đầu bất kỳ tệp phương tiện nào mà không có chứng chỉ không thể tin cậy. Đó là một giải pháp, nhưng với nhu cầu sức mạnh của blockchain , có lẽ nó không phải là một giải pháp tối ưu.
Nhưng, như Adobe đã nói trong phần thông báo của mình, thì hành trình dân chủ hóa pháp y hình ảnh chỉ mới bắt đầu. Có thể nó đến sớm, bởi vì chúng ta sẽ cần nó .
Adobe có một kế hoạch đầy tham vọng để giúp công chúng phát hiện ra những hình ảnh giả mạo
[Hình ảnh: Nghiên cứu Adobe / UC Berkeley ]
BỞI JESUS DIAZ2 PHÚT ĐỌC
Khi AI trực quan mạnh mẽ xuất hiện trên internet, việc xử lý hình ảnh, âm thanh và video ngày càng dễ dàng và dễ dàng hơn, điều này gây ra một vấn đề nghiêm trọng cho xã hội. Adobe, người có công trong việc phổ biến một số công nghệ chỉnh sửa hình ảnh sớm nhất, muốn chống lại trí tuệ nhân tạo khai thác để phát hiện hình ảnh bị thao túng của con người. Các nhà nghiên cứu của công ty đang làm việc với các nhà khoa học của UC Berkeley và DARPA, bộ phận nghiên cứu công nghệ tiên tiến của Lầu Năm Góc, để phát triển phần mềm có khả năng gắn cờ, phân tích và thậm chí đảo ngược thao tác trên khuôn mặt trong ảnh. Và nhóm các tổ chức muốn làm cho chương trình của họ có sẵn cho tất cả mọi người.
Trong một bài nghiên cứu mới , các nhà khoa học mô tả cách thức chỉnh sửa ảnh độc hại nhất xảy ra trong các công cụ có sẵn rộng rãi như Adobe Photoshop, đặc biệt là với công cụ cong vênh của phần mềm, được biết đến như là hóa lỏng. Với hóa lỏng, bất kỳ người dùng nào cũng có thể làm biến dạng các khu vực cụ thể trên khuôn mặt để thay đổi hoàn toàn biểu cảm của một người , biến hạnh phúc thành nỗi buồn hoặc ánh mắt thanh thản thành dáng vẻ của một người mất trí. Công cụ pháp y mới của Adobe tập trung vào hiệu ứng này, phát hiện các pixel đã bị biến dạng (ngay cả khi sự thay đổi là vô hình đối với mắt người). Phần mềm sử dụng Mạng thần kinh chuyển đổi Convolutional, một dạng trí thông minh nhân tạo lấy cảm hứng từ cách vỏ não thị giác của động vật hoạt động, đó là công nghệ cơ bản tương tự cho phép các công cụ thao tác như Deepfakes hoán đổi khuôn mặt trên các cơ thể khác nhau, làm cho mọi người nói những điều họ chưa bao giờ nói , và làm video về những người làm những điều họ chưa bao giờ làm .
Trong một bài đăng trên blog , công ty đồ họa kỹ thuật số California nói rằng chương trình phát hiện thao tác kỹ thuật số của họ vẫn còn ở giai đoạn đầu. Những nỗ lực của Adobe thực sự bắt đầu vào năm 2018 , vì vậy rõ ràng nó sẽ chậm lại; công ty cũng cho biết tính năng phát hiện mới chỉ là khởi đầu cho một loạt các công cụ pháp y công cộng sẽ sử dụng AI để gắn cờ mọi thứ từ ảnh được chỉnh sửa thủ công cho đến video Deepfake đầy đủ.
[Hình ảnh: Nghiên cứu Adobe / UC Berkeley ]
Họ nên nhanh lên, vì hóa lỏng một hình ảnh là trò chơi của trẻ con so với những gì đang xảy ra với AI bây giờ. Các chuyên gia nói rằng họ bị ruồng bỏ khi phát hiện ra thao tác AI nói riêng. Có một cơ hội lớn rằng thao tác hình ảnh và âm thanh có thể trở nên liền mạch đến mức cuối cùng sẽ không thể phát hiện được, ngay cả khi sử dụng AI khác. Trong trường hợp đó, như một số chuyên gia đã đề xuất, mọi hình ảnh và video thực có thể cần được phân phối với một số dạng hình mờ hoặc chứng chỉ tin cậy có thể sử dụng blockchain. Bắt đầu bất kỳ tệp phương tiện nào mà không có chứng chỉ không thể tin cậy. Đó là một giải pháp, nhưng với nhu cầu sức mạnh của blockchain , có lẽ nó không phải là một giải pháp tối ưu.
Nhưng, như Adobe đã nói trong phần thông báo của mình, thì hành trình dân chủ hóa pháp y hình ảnh chỉ mới bắt đầu. Có thể nó đến sớm, bởi vì chúng ta sẽ cần nó .
Nhận xét
Đăng nhận xét