Người sáng lập Visible Collective Jessica Richman khám phá tác động của thuật toán vô tình của Instagram phân biệt đối xử với các cơ thể béo.
Tôi đã nghe trong nhiều tháng rằng Instagram có một thuật toán đánh dấu không tương xứng các hình ảnh của các cơ thể béo hơn. Tháng 9 này, nỗi sợ hãi của tôi đã được xác nhận.
Theo Jennifer Allbaugh (tên người biểu diễn Ruby), phó chủ tịch của Hiệp hội diễn viên trưởng thành (APAG), trên thực tế, một thành viên của nhóm Instagram đã xác nhận rằng Instagram có thuật toán phát hiện và gắn cờ các bức ảnh có trên 60% da . [ Ghi chú của biên tập viên: một phát ngôn viên của Công ty Facebook đã nói trong một tuyên bố: Quảng Điều này không đúng. Chúng tôi có công nghệ AI chủ động để tìm nội dung có khả năng vi phạm các chính sách của chúng tôi không cho phép ảnh khoả thân, tuy nhiên, có nhiều tín hiệu có hiệu lực. Chúng tôi không sử dụng thuật toán xác định tỷ lệ phần trăm của da. Facebook, công ty sở hữu Instagram, có chính sách này liên quan đến nội dung người lớn. ]
Mặc dù mục đích ban đầu của thuật toán là kiểm duyệt các hình ảnh có thể được xem là không phù hợp, đặc biệt là đối với khán giả trẻ, thuật toán này đã ảnh hưởng không tương xứng và bất lợi đến người dùng Instagram và những người có ảnh hưởng lớn hơn.
Giả sử một người phụ nữ có thân hình nhỏ hơn quyết định mặc một bộ đồ tắm che phủ tới 40% làn da của cô ấy. Bây giờ hãy tưởng tượng một người phụ nữ béo quyết định mặc đồ tắm giống nhau. Bộ đồ tắm đó có thể có nhiều vải hơn một chút do kích thước lớn hơn, nhưng cơ thể của cá nhân đó có thể có nhiều da hơn đáng kể, khiến thuật toán của Instagram gắn cờ hình ảnh mặc dù không có gì không phù hợp về nó. Mặc dù Instagram có thể đã không bắt đầu thực hiện điều này, nhưng cuối cùng họ đã tạo ra một thuật toán phân biệt đối xử với các cơ thể béo.
Vì nhiều công ty lớn đang giải quyết thực tế là các thuật toán có tác động bất lợi liên quan đến chủng tộc và giới tính , tôi tin rằng điều quan trọng là chỉ ra rằng những người có kích thước cũng bị ảnh hưởng ngay bây giờ, nhân lên gấp nhiều lần một ngày, trên Instagram, bằng thuật toán phân biệt đối xử vốn có .
Tôi đã tìm hiểu thêm về thuật toán của Instagram tại CurvyCon , một sự kiện kéo dài ba ngày mang đến các thương hiệu cộng với kích thước, Fashionistas, Shopaholics, Bloggers và YouTubers vào một không gian, để trò chuyện cong, mua sắm cong và ôm lấy đường cong. Đó là nơi Carina Shero , một người ảnh hưởng và người mẫu đồ lót có kích thước cộng, đã hỏi nữ diễn viên và nhà hoạt động Jameela Jamil làm thế nào cô có thể ngăn Instagram không gắn cờ hình ảnh của mình và những người có ảnh hưởng cộng cỡ khác.
Sau đó, tôi đã theo dõi Carina để tìm hiểu sâu hơn về một số mối quan tâm của cô ấy và tìm hiểu thêm chi tiết về cách chính sách của Instagram ảnh hưởng đến cô ấy. Carina cho biết cô đã bị bóng đè trong 2,5 năm và hiện đang ở tài khoản thứ bảy (nhưng vẫn có 533K người theo dõi). Theo Wikipedia, việc cấm bóng là hành động chặn hoặc chặn một phần người dùng hoặc nội dung của họ khỏi cộng đồng trực tuyến để người dùng không bị cấm.
Những người có ảnh hưởng lớn hơn mà cô biết có tài khoản bị kiểm duyệt không tương xứng. Điều đó bao gồm việc xóa tài khoản, xóa bài đăng, xóa ảnh, hình ảnh không hiển thị trong hashtag và khó xác minh mặc dù đáp ứng các yêu cầu để nhận huy hiệu được xác minh. Carina cho biết, nội dung tương tự có thể được nhìn thấy trên một người béo và một người gầy, nhưng trên một người béo thì nó được coi là khiêu dâm, và trên một người gầy thì được phép.
Carina nói với tôi rằng Hiệp hội Diễn viên Người lớn dành cho Người lớn gần đây đã phản đối các chính sách liên tục cấm người biểu diễn người lớn tại Instagram. Trong quá trình phản đối đó, Carina nói rằng các thành viên của liên minh có cơ hội tham gia với đại diện của Instagram. Thông qua nghiên cứu của tôi, sau đó tôi phát hiện ra cuộc họp này bao gồm người đứng đầu chính sách công Karina Newton của Instagram, trợ lý chính sách công Aparajitha Vadlamannati, nhân viên truyền thông Stephanie Otway và giám đốc điều hành chính sách sản phẩm của Kim Kimfacini.
Theo Jennifer, khi bạn không thể kinh doanh mà không có mặt trên Facebook hay Instagram, thì việc bị đuổi khỏi trang khiến ai đó không chỉ cảm thấy bị tẩy chay mà thực sự có thể ảnh hưởng đến thu nhập của họ. Một người có ảnh hưởng cộng với kích thước khác mà tôi đã nói chuyện, Lilith Fury , có nhiều hình ảnh của cô được gắn cờ, bao gồm một số bài đăng được tài trợ. Cô ấy không còn có thể sử dụng tính năng nội dung có thương hiệu trên Instagram, điều này sẽ loại bỏ tính hợp pháp của cô ấy như một đối tác có thể có cho các thương hiệu và do đó làm giảm số tiền cô ấy có thể kiếm được như một người gây ảnh hưởng. Nếu tôi chia sẻ mọi câu chuyện về những người béo (đặc biệt là phụ nữ) có tài khoản bị ảnh hưởng, bài viết này sẽ không bao giờ kết thúc.
Thuật toán này không chỉ ảnh hưởng đến hạnh phúc tình cảm và sinh kế của những người có ảnh hưởng mà còn có tác dụng hạ lưu lớn.
Theo Carina, người là một người có kích thước cộng, phương tiện duy nhất chúng ta có là những gì chúng ta tạo ra cho chính mình. Cô ấy đúng. Khi Referies29 và Getty Images đưa ra Dự án 67% của họ vào năm 2017, họ thừa nhận rằng mặc dù 67% phụ nữ có kích thước cộng, nhưng họ chiếm tới 2% số hình ảnh chúng ta thấy. Carina mô tả cách cô nhận được tin nhắn từ các fan nữ đang trên bờ vực tự tử vì họ không bao giờ nghĩ rằng họ có thể thấy mình đẹp như vậy cho đến khi họ nhìn thấy hình ảnh của cô. Cô cũng nhận được nhiều email từ các đối tác của mọi người nói rằng hình ảnh của Carina đã biến đổi hình ảnh bản thân của đối tác của họ, điều này giúp thay đổi tích cực mối quan hệ của họ.
Nỗi sợ của Carina đối với thuật toán của Instagram là rằng nếu mọi người không thể hiện chính mình như thật và không thể sống cuộc sống tự thể hiện của chính mình, những người khác sẽ phải chịu hậu quả. Có những người không thể được thể hiện đầy đủ là không thể chấp nhận. Chúng ta có sức mạnh để thay đổi cách xã hội nhìn nhận về người béo.
Khi Jennifer (Ruby) từ APAG phản ánh về thời gian của cô với Instagram, cô đã đề cập rằng họ có một công việc không thể, và cô cảm thấy đối với họ. Cô nói chi tiết như thế nào, một khi thuật toán gắn cờ một hình ảnh, người dùng có thể kháng cáo để những hình ảnh này được nhìn thấy bởi một người. Thật không may, cô cho biết những người sau đó xem lại những hình ảnh đó không đa dạng, điều đó có nghĩa là có thể chỉ có một quan điểm về những gì được chấp nhận.
Cô tin rằng Instagram có thể tăng sự công bằng trong chừng mực bằng cách sử dụng một nhóm người đa dạng và phong phú. Cô thậm chí còn đề nghị tuyển dụng những người biểu diễn đã nghỉ hưu, những người có thể nắm bắt nhiều hơn để hiểu những gì nên được xem là phù hợp và những gì không nên. Tôi đề nghị rằng việc thuê những người có ảnh hưởng cộng với kích thước hiện tại làm người điều hành cũng có thể có lợi cho quá trình kiểm duyệt. Những người có nguồn gốc giám sát tài khoản càng đa dạng thì càng tốt. Tất cả chúng ta đều có thành kiến, nhưng sự đa dạng trong người điều hành cho phép những thành kiến đó hy vọng triệt tiêu lẫn nhau.
Trong khi đó, Jennifer đề nghị những người có kích thước cộng với những người cảm thấy họ liên tục phải đối mặt với sự phân biệt đối xử trên Instagram nên tiếp tục kháng cáo. Nếu họ thấy rằng Instagram không hành động, họ nên gửi thông tin của mình đến trang web phân biệt đối xử trên Instagram của APAG . APAG đang nắm bắt thông tin này và gửi danh sách các tài khoản được gắn cờ lên Instagram để họ biết về các tài khoản này và có thể hỗ trợ.
APAG đặc biệt quan tâm và có vị trí tốt để làm việc với Instagram về điều này bởi vì tổ chức này biết đây là những gì ngành công nghiệp trưởng thành đã trải qua 40 năm trước. Nếu Instagram muốn tránh sự gia tăng đáng kể quy định của chính phủ, họ cần tìm ra cách tự cảnh sát và bảo vệ bài phát biểu miễn phí của mọi người cùng một lúc.
Jennifer nghe có vẻ tích cực và hợp tác khi nói về Instagram. Cô thậm chí còn đề cập rằng các nhân viên Instagram và các thành viên APAG đã ôm nhau vào cuối cuộc họp đầy cảm xúc. Cô nhận ra Instagram có một con đường đầy thách thức phía trước nhưng muốn giúp họ nhiều nhất có thể để tạo ra một thuật toán và cấu trúc điều độ, nơi tất cả các cơ quan đều có giá trị.
Điều tương tự cũng xảy ra với The Visible Collective và nhiều người có ảnh hưởng mà chúng tôi kết nối và hỗ trợ. Hợp tác chứ không phải sợ hãi là câu trả lời. Cộng đồng béo có thể cung cấp càng nhiều phản hồi hữu ích và có cơ hội, chúng tôi càng có cơ hội giúp Instagram phục vụ chúng tôi tốt hơn.
Jessica Richman là người sáng lập và CEO của The Visible Collective . Visible Collective tư vấn cho các công ty về phát triển sản phẩm, tiếp thị và phát triển kinh doanh mới để phục vụ tốt hơn cho 71% khách hàng bị Trung tâm Kiểm soát và Phòng ngừa Bệnh tật dán nhãn.
Không có nhận xét nào:
Đăng nhận xét