Một câu nói phổ biến là, “nếu sử dụng dịch vụ miễn phí, bạn chính là sản phẩm”. Nhưng theo quan điểm của LUXUO, bạn không hẳn là sản phẩm, sự thay đổi hành vi để các công ty và chính phủ có thể dự đoán hành động của bạn mới là sản phẩm. Quyền riêng tư về dữ liệu của bạn mới là hàng hóa xa xỉ mới của thế kỷ 21.

“Chủ nghĩa tư bản giám sát” là thuật ngữ do giáo sư Harvard và nhà tâm lý học xã hội Shoshana Zuboff đặt ra vào năm 2014. Chủ nghĩa tư bản giám sát mô tả các lực lượng thị trường mới đi cùng sự trỗi dậy của phương tiện truyền thông xã hội, nơi hàng hóa để bán là dữ liệu cá nhân và việc thu thập và sản xuất dữ liệu này dựa vào việc thu thập dữ liệu người dùng khi sử dụng các dịch vụ trực tuyến “miễn phí” như Google hoặc các nền tảng như Facebook. Thật trớ trêu, nó cũng bao gồm các phương tiện lén lút để nghe các cuộc trò chuyện từ thiết bị di động của bạn và quét tìm các từ khóa liên quan.

Thông thường, các công ty phân tích chuyên môn hoặc các nhà khoa học dữ liệu trong các công ty này thu thập và xem xét kỹ lưỡng các hành vi trực tuyến của chúng ta (việc thích, không thích, tìm kiếm, thời gian chúng ta đọc các bài viết cụ thể) để tạo ra dữ liệu và phân loại sâu hơn các hành vi và kiểu tính cách của chúng ta để các công ty có thể sử dụng thông tin cho các mục đích thương mại.

Nhưng đó không phải là mối nguy hiểm thực sự.

Phim tài liệu Netflix The Social Dilemma đang chứng minh dữ liệu về bạn là thứ hàng hóa xa xỉ mới

Mối nguy hiểm thực sự chính là các nền tảng mạng xã hội & dữ liệu lớn đang thay đổi hành vi của người sử dụng.

“Một số dữ liệu này được áp dụng để cải tiến dịch vụ (Facebook, Twitter, v.v.), phần còn lại được tuyên bố là thặng dư độc quyền về dữ liệu hành vi, được đưa vào các quy trình phân tích tiên tiến được gọi là ‘trí tuệ máy móc’ và tạo thành các sản phẩm dự đoán những gì bạn làm bây giờ và sau này. Cuối cùng, những sản phẩm dự đoán này được giao dịch trong một loại thị trường mới mà tôi gọi là thị trường hành vi tương lai”. – Shoshana Zuboff

Zuboff, giáo sư Emerita tại Harvard Business School, cảnh báo rằng những điều tốt đẹp của Big Tech & Big Data đã làm cho chúng ta mù và điếc với các mối đe dọa thực sự của cuộc cách mạng kỹ thuật số. Cuối thế kỷ 20 đã chứng kiến ​​nền kinh tế của chúng ta thoát khỏi dây chuyền sản xuất hàng loạt để ngày càng dựa vào tri thức. Nền kinh tế dựa trên dữ liệu phụ thuộc vào “dữ liệu lớn” để kiếm tiền.

Shoshana Zuboff, giáo sư danh dự tại Trường Kinh doanh Harvard

Dữ liệu được sử dụng trong quá trình này thường được thu thập từ cùng một nhóm người, những người cuối cùng sẽ là mục tiêu của nó. Và trong khi việc phổ biến hóa dữ liệu này về mặt bán quảng cáo cho các công ty hàng tiêu dùng muốn nhắm đến chúng ta là phương pháp kiếm tiền hiện tại, thì mục tiêu cuối cùng được nêu bật trong bộ phim tài liệu gần đây của Netflix, The Social Dilemma, là dự đoán và thay đổi hành vi – và kết quả là việc tái lập trình sự khởi đầu nhận thức của con người với sự hỗ trợ của máy móc sẽ dẫn đến một loại thị trường mới mà Zuboff gọi là thị trường tương lai hành vi.

Sự xa xỉ mới: Dữ liệu cá nhân của bạn và Thị trường tương lai hành vi

“Một trong những mục tiêu của chúng tôi là tìm ra cách thu hút sự chú ý của bạn nhiều nhất có thể” – Tristan Harris, chủ tịch và là đồng sáng lập của Center for Humane Technology, từng làm việc với tư cách Design Ethicist tại Google.

Theo Jeff Horwitz và Deepa Seetharaman của WSJ, các bài báo cáo nội bộ tại Facebook cho thấy: “Các thuật toán của chúng tôi khai thác sự thu hút của não người đối với sự gây chia rẽ”  Nó cũng cảnh báo rằng, “nếu không được kiểm soát, Facebook sẽ cung cấp cho người dùng ngày càng nhiều nội dung gây sự chia rẽ trong nỗ lực thu hút sự chú ý của người dùng và tăng thời gian sử dụng ”

Aza Raskin, đồng sáng lập Center for Humane Technology, trước đây là trưởng bộ phận trải nghiệm người dùng tại Mozilla Labs và là nhà thiết kế chính cho Firefox. Được biết đến với việc phát minh ra thanh cuộn vô hạn, Raskin không còn xa lạ với việc thu hút sự chú ý của chúng ta – Sự tương tác, trở thành một trong ba mục tiêu chính của các công ty công nghệ bên cạnh Tăng trưởng và Quảng cáo. Theo Raskin, cuộc đua nhằm xây dựng một mô hình tốt hơn trong việc dự đoán hành vi của con người và mô hình chính xác nhất sẽ chiến thắng. Sean Parker, chủ tịch đầu tiên của Facebook và là người đồng sáng lập nổi tiếng của Napster, gọi nó là “khai thác các lỗ hổng trong tâm lý con người”.

Thật vậy, các công ty như Google và Facebook sẽ triển khai hàng chục các thử nghiệm nhỏ trên người dùng. Và theo thời gian, họ phát triển cách tối ưu để khiến người dùng làm những gì họ muốn. Nhưng khi những đổi mới như thanh cuộn vô hạn và nút thích không còn đủ để giữ cho bạn tương tác, thì việc thao túng người dùng lộ ra các mặt tối – kích hoạt bản năng tiến hóa của con người từ tư tưởng bè phải.

Một nghiên cứu gần đây của Pew đã chỉ ra rằng ở Hoa Kỳ, sự phân cực cá nhân và chính trị đang ở mức cao nhất trong 20 năm, và điều này không phải ngẫu nhiên. Khi Facebook tiến hành cái mà họ gọi là các thí nghiệm lây lan quy mô lớn, họ nhận thấy rằng thông qua các các trang Facebook, họ có thể thu hút nhiều người hơn đi bỏ phiếu trong cuộc bầu cử giữa kỳ và một khi họ phát hiện ra rằng họ có thể làm điều đó; họ kết luận rằng điều đó có thể ảnh hưởng đến hành vi và cảm xúc trong thế giới thực mà họ không bao giờ tự ý thức được

Chiến tranh hiện đại (Psych): Công nghệ thuyết phục Captology và Phòng thí nghiệm thiết kế hành vi Stanford

Phòng thí nghiệm Thiết kế Hành vi Stanford, do Tiến sĩ BJ Fogg đứng đầu, tạo ra cái nhìn sâu sắc về cách các sản phẩm máy tính – từ trang web đến phần mềm điện thoại di động – có thể được thiết kế để thay đổi những gì mọi người tin và những gì họ làm.

Mặc dù điều này có thể mang lại những thay đổi tích cực trong nhiều lĩnh vực, bao gồm sức khỏe, kinh doanh, an toàn và giáo dục, nhưng nhiều sinh viên tốt nghiệp chuyển sang các công ty công nghệ ở Thung lũng Silicon có thể không phải lúc nào cũng sử dụng captology, tức là – phần chính yếu về thiết kế, lý thuyết , và phân tích các công nghệ thuyết phục, thậm chí có thể không hiểu được cách Trí tuệ nhân tạo vô đạo đức có thể sử dụng hiểu biết của họ và áp dụng nó cho các mục tiêu tương tác, tăng trưởng và quảng cáo.

Chủ nghĩa tâm thần là một nghệ thuật biểu diễn trong đó những người thực hành nó, được gọi là những người theo chủ nghĩa tâm thần, dường như thể hiện khả năng tâm thần hoặc trực giác phát triển cao. Trong những năm đầu, những “nhà ảo thuật” này đã sử dụng khả năng đọc ngôn ngữ cơ thể của họ để điều khiển một chủ thể một cách tinh vi thông qua gợi ý tâm lý: về cơ bản, đó là một biến thể của việc gợi ý ai đó “chọn một thẻ, bất kỳ thẻ nào” nhưng sự thật là bạn đã đã khuyến khích họ chọn một thẻ cụ thể. Tuy nhiên, đó là một vấn đề khi một trò lừa bịp tâm thần được thực hiện để giải trí, hoàn toàn khác khi các siêu máy tính và thuật toán được trang bị một hồ sơ định lượng về khả năng của bạn để tìm ra thứ gì tốt nhất sẽ làm bạn chọn.

Một nạn nhân của siêu máy tính và trí tuệ nhân tạo có thể kể đến chính là Allison Gill. Với ba bằng cấp bao gồm bằng tiến sĩ, thành viên của Mensa và tốt nghiệp cấp Chỉ huy đào tạo năng lượng hạt nhân của Hải quân Hoa Kỳ, là một cô gái có học thức cao và thông minh nhưng đã suýt bị GOP và Điện Kremlin lừa gạt bỏ phiếu bầu vào năm 2016. Trong những ngày đó, Gill là một người ủng hộ Bernie và dành rất nhiều thời gian cho những người ủng hộ Bernie khác trên Facebook và Twitter, những chia sẻ của cô ấy và các hoạt động truyền thông xã hội khác đã khiến cô ấy trở thành mục tiêu dễ bị tổn thương cho việc lập hồ sơ đo lường tâm lý.

Thời gian trôi qua, Gill nhanh chóng phát hiện ra rằng toàn bộ nguồn cấp dữ liệu của cô ấy đang tấn công cô ấy với thông tin tiêu cực về Hillary và Đảng Dân chủ, và nhanh chóng cô ấy tin rằng DNC là xấu xa, hệ thống đã bị gian lận, và cách duy nhất là “gửi một thông điệp”  bằng cách bỏ phiếu phản đối hệ thống. Một nhà dân chủ trọn đời, đã rời bỏ đảng Dân chủ và tin rằng mình sẽ “gửi một thông điệp” cho đến khi nhận ra rằng việc không bỏ phiếu bầu của cô ấy đã chẳng gửi tin một thông điệp nào mà còn góp phần giúp Donald Trump đắc cử.

Trên thực tế, theo thời gian, câu chuyện sẽ trở nên mờ ám hơn: rằng chiến thắng của Trump sẽ ổn vì nó sẽ đốt cháy hệ thống ấy và gửi đi một thông điệp. Ngay bây giờ, Gill nhận thấy mô hình tương tự đang lặp lại bây giờ, câu chuyện chính là việc đổ lỗi cho những thất bại của Tổng thống Trump đối với Chủ tịch Hạ viện Nancy Pelosi, cuộc điều tra của Mueller và những thất bại của đảng Dân chủ Hạ viện, chứ không phải là những sai lầm của cá nhân bản thân ông. Thật đáng kinh ngạc, sự phân cực một lần nữa được sử dụng để tạo ra các hệ tư tưởng cực tả và cực hữu, những người không nhận ra rằng vận mệnh chung của đất nước họ đang bị đe dọa, và bạn cứ mải miết dành nhiều thời gian hơn trên mạng xã hội. Đó là một hiện tượng đang thúc đẩy các cuộc thảo luận mà không được “kích hoạt” bởi một thuật toán. Khi càng nhận được nhiều phản hồi, chúng ta sẽ có xu hướng chia sẻ thông tin khẳng định quan điểm về thế giới với những người có cùng chí hướng.

Người phụ trách chuyên mục của Guardian, Charles Arthur tin rằng các thành viên của quốc hội ở Westminster cũng không là ngoại lệ. Ông ấy viết, “Các nhóm WhatsApp phân hóa Westminster; Các nghị sĩ đảng Lao động và Tory, những người đã rời bỏ để thành lập Nhóm độc lập dường như đã bị loại khỏi các nhóm WhatsApp theo định hướng đảng tương ứng của họ trong một động thái mang tính chất nghi lễ như việc bẻ gươm của một người lính.” Ông đưa ra giả thuyết,“ Điều gì sẽ xảy ra nếu dịch vụ nhắn tin WhatsApp được sử dụng để Nhóm nghiên cứu châu Âu đang thực hiện triệt để các thành viên Brexiter Tory của mình, vì vậy họ thúc đẩy nhau để ngày càng có nhiều phản đối cực đoan hơn trong việc thúc đẩy không có thỏa thuận? Điều gì sẽ xảy ra nếu các nhóm trên Facebook cho mọi người cơ hội để nói những điều mà họ sẽ không thể nói to trước công chúng? ”

Trong khi The Verge cho rằng thế giới phức tạp hơn những gì mà các nhà làm phim của The Social Dilemma muốn tin, thì trớ trêu thay, tác giả của bài luận – Casey Newton, lại phá bỏ lập luận của chính mình bằng ví dụ của Sophie Zhang, một nhà khoa học dữ liệu cho Facebook Site Integrity thừa nhận là “bot ảnh hưởng đến bầu cử và những thứ tương tự”.

Zhang mô tả “các chiến dịch gây ảnh hưởng phối hợp” của các chính phủ ở Azerbaijan và Honduras, bao gồm Ấn Độ, Ukraine và Bolivia, sử dụng Facebook chống lại công dân của họ. Đúng vậy, thế giới bao gồm các công cụ chính sách địa chính trị và kinh tế xã hội vượt xa ngoài Facebook, nhưng các nền tảng truyền thông xã hội là chiến trường mà tại đó các cuộc chiến về trí óc và trái tim của chúng ta được tiến hành. Tất cả các cuộc nội chiến lớn đã xảy ra bởi vì hai thành phần chính của xã hội đã khác nhau đến mức không thể hòa giải được các lập trường tư tưởng cực đoan.

Theo UC Berkley, bong bóng bộ lọc trực tuyến cho chúng ta thấy sự nhất quán trong tâm lý học hành vi cá nhân, cho thấy rằng chúng ta có nhiều khả năng sẽ tìm kiếm và đồng ý với những quan điểm phù hợp với niềm tin sẵn có của chúng ta. Vì các thuật toán hiện đang cung cấp thông tin thiên vị này và thưởng cho chúng ta một liều dopamine và sự tự tin khi các giả định của chúng ta được chứng minh là đúng (ngay cả khi chúng thực tế là sai), nguồn cấp tin tức cho chúng ta được phân phối theo thuật toán từ các trang web tin tức và các bài xã luận của các nhóm hoặc cá nhân có cùng thế giới quan của chúng ta. Điển hình là trong cuộc Bầu cử Tổng thống Hoa Kỳ, Trump đã chi hàng triệu USD cho các quảng cáo Facebook gây hiểu lầm nhắm vào những cử tri chưa quyết định. Trong khi một nhà phê bình có thể tranh luận rằng Trump có thể chi hàng triệu USD trên bất kỳ nền tảng nào, thì các phương tiện truyền thông như truyền hình không có các quy trình lập trình để cung cấp thông tin sai lệch có mục tiêu cho những người đã sẵn sàng tin vào thông tin đó – bằng chứng là Allison Gill, thậm chí rất có học thức và Những cá nhân có tư duy phản biện có thể trở thành mồi ngon cho khả năng lập bản đồ và cung cấp thông tin chính xác của AI được thiết kế để kích hoạt chúng ta.

Facebook có nhiều sáng kiến ​​chống phân cực và trong khi chủ sở hữu và người sáng lập Mark Zuckerberg đã tuyên bố rằng anh ấy không ủng hộ việc nền tảng này đưa ra các nhận xét độc lập về bài phát biểu, họ có tội nếu không trực tiếp đồng lõa trong việc đưa ra các lựa chọn thuật toán được sử dụng trong việc lan truyền bài phát biểu gây chia rẽ. Về mặt thực tế, các nền tảng truyền thông xã hội là chất xúc tác cho sự phát triển trỗi dậy của những kẻ phản khoa học nghĩ rằng trái đất phẳng, những người theo thuyết âm mưu #pizzagate và các nhóm thù địch. Bài thuyết trình nội bộ năm 2016 của chính công ty đã nói lên điều này một cách tốt nhất: “64% của tất cả các nhóm cực đoan tham gia là do các công cụ khuyến nghị của chúng ta” – “Hệ thống khuyến nghị của chúng ta đang làm vấn đề lớn thêm.”