washingtonpost.com
Facebook이 어떻게 작동하는지는 아무도 모릅니다. 이 책이 도움이 될 수 있습니다.
'브로큰 코드'에서 제프 호르비츠는 세계에서 가장 중요하지만 가장 잘 알려지지 않은 기업의 지저분한 내부 구조에 대해 스마트하게 보도한 조사를 제공합니다.
이 페이지는 다음과 같이 요약할 수 있습니다:
- 페이스북의 내부 비밀: 월스트리트저널 기자 Jeff Horwitz는 페이스북의 전직 직원이자 고발자인 Frances Haugen이 제공한 2만 장 이상의 페이스북 문서를 바탕으로 페이스북의 중요한 시스템과 그들의 많은 실패에 대해 포괄적이고 신속하게 조사한 책인 'Broken Code: Inside Facebook and the Fight to Expose its Harmful Secrets’를 출간했습니다.
- 페이스북의 문제점: Horwitz는 페이스북이 자신의 플랫폼에서 일어나는 일에 대해 잘 모르거나, 알고 있어도 숨기거나, 해결하기를 꺼리는 문화를 가지고 있다고 주장합니다. 페이스북은 성장과 수익을 최우선으로 하면서 사회적 분열, 극단주의, 허위 정보, 인권 침해 등의 부정적인 영향을 무시하거나 감수하고 있다고 합니다.
- 페이스북의 책임: Horwitz는 페이스북의 리더십이 자신들의 사명에 대한 오만함과 이상주의에 빠져 있어서 페이스북이 세계에 미치는 해로운 영향을 인정하지 못하고 있다고 비판합니다. 페이스북은 자신의 플랫폼을 개선하고 규제하는 방법을 찾아야 하지만, 그러기 위해서는 자신의 본질을 바꿔야 한다고 합니다.
[Bing Chat Copilot의 페이지 요약]
[기사 원문 링크]
[Quillbot으로 기사 요약]
"브로큰 코드: Facebook 내부와 그 해로운 비밀을 폭로하기 위한 투쟁"은 월스트리트 저널 기자 제프 호르비츠가 쓴 책으로, 플랫폼을 관리하는 주요 시스템과 그 많은 실패에 대한 포괄적인 조사를 제공합니다. 이 책은 호르비츠의 원본 자료와 페이스북 내부자 인터뷰를 결합하여 페이스북이 이전에 생각했던 것보다 덜 고의적으로 악의적이고 더 자연스럽게 파괴적일 수 있음을 보여줍니다.
호르비츠는 페이스북이 플랫폼의 문제점을 오래전부터 알고 있었지만 숨기려고만 했기 때문에 보고서와 메모가 묻혀버리는 경우가 많았다고 주장합니다. 호르비츠는 페이스북의 리더십이 미션 중심 기업의 이기주의에 사로잡혀 잘못을 거의 할 수 없고 플랫폼의 성공은 본질적인 선이라고 믿었던 과정을 기록합니다.
2016년 미국 대통령 선거에서 페이스북은 도널드 트럼프와 힐러리 클린턴의 선거운동에 도움을 주며 정치 캠페인의 핵심 도구로 자리 잡았습니다. 필리핀의 로드리고 두테르테와 인도의 나렌드라 모디의 당선에도 Facebook의 타겟팅 도구가 도움을 준 것으로 알려져 있습니다.
페이스북은 대부분의 국가에서 자사 플랫폼에서 어떤 일이 벌어지고 있는지 전혀 파악하지 못했는데, 이는 비서구 국가들이 "기타 세계" 카테고리로 분류되어 있었기 때문입니다. 호르비츠의 설명에 따르면 Facebook은 고유의 구조적 결함을 보완하기 위해 끊임없이 노력하고 있습니다.
콘텐츠 배포와 사람들의 최악의 감정적 욕구를 자극하는 데 있어 페이스북은 타의 추종을 불허합니다. 그러나 Facebook은 끝없는 사회적 비교 과정을 통해 10대 소녀의 3분의 1이 신체 이미지 문제를 겪고 있다는 사실을 알고 있습니다. 사람들은 Instagram을 사용한 후 기분이 나빠지고, Facebook도 비슷한 우울증 효과를 일으킵니다.
*아래의 더보기를 누시면 전문을 보실 수 있습니다.
기사 전문 번역
최근 몇 년 동안 기술 기업에 대한 대중의 조사가 쏟아졌지만, Facebook이 실제로 어떻게 운영되는지 아는 사람은 거의 없습니다. 국회의원들은 물론이고 때로는 Facebook 자체도 잘 모릅니다. 수십억 명의 정보 식생활과 세계관을 형성하는 이 회사는 점점 더 복잡해지는 거대한 기업이며, 기업의 비밀 뒤에 숨어 있는 자동화 시스템과 세심하게 구성된 알고리즘의 매듭으로 이루어져 있습니다. 일반인들은 페이스북을 단편적으로 바라보면서 여기저기서 개인정보 유출 스캔들을 발견하고, 저기서 방해가 되는 광고를 발견하고, 타임라인에서 혐오 발언을 발견하는 등 플랫폼의 운영 방식과 사용자가 보는 콘텐츠에 대한 불완전한 심상을 형성하는 경향이 있습니다.
" 브로큰 코드 : Facebook 내부와 그 해로운 비밀을 폭로하기 위한 싸움"이라는 제목의 월스트리트저널 기자 제프 호르비츠의 신간은 코끼리의 모든 것을 알려주려고 노력합니다. 호르비츠와 그의 동료들이 Facebook에서 제품 관리자로 일하다 환멸을 느낀 프란시스 하우겐이 제공한 20,000개 이상의 Facebook 문서 스크린샷을 바탕으로 작성한 수상 경력에 빛나는 기사 시리즈인 'Facebook 파일'의 연장선상에 있는 '브로큰 코드'는 플랫폼을 관리하는 주요 시스템과 그 여러 실패 사례에 대한 포괄적이고 활발한 보도를 담고 있습니다. 호르비츠는 호겐이 확보한 원본 자료와 페이스북 내부자 인터뷰를 결합하여 페이스북이 이전에 생각했던 것보다 덜 고의적으로 악의적이고 우연히 파괴적일 수 있으며, 사회 구조를 망가뜨리고, 고객을 극단주의 단체에 끌어들이고, 정치적 양극화를 촉진하고, 허위 정보를 넘쳐나게 하고, 인신매매와 기타 다양한 착취 및 사기를 조장하는 도구를 제공한다는 사실을 입증하기 위해 노력하고 있습니다.
호르비츠에 따르면, Facebook은 수많은 연구원을 고용하고 있기 때문에 플랫폼의 문제점을 오래전부터 알고 있었지만, 이를 숨기고 싶어했기 때문에 보고서와 메모가 묻혀버리는 경우가 많았다고 합니다. 호르비츠의 말처럼, 보고 시스템을 재설계하여 단순히 사용자 보고를 더 적게 생성할 수도 있습니다. 가짜 뉴스의 확산을 줄일 수 있는 알고리즘을 수정해 달라는 요청이 승인되었지만, 메타의 CEO인 마크 저커버그는 성장에 영향을 미치거나 파워 유저를 분노하게 만들지 않도록 그 영향을 80% 줄이라고 지시했습니다. 이후 주커버그는 변경을 제안한 매니저에게 "다시는 이런 제안을 하지 말라"고 말했습니다.
호르비츠는 "성장을 위한 노력이 의도치 않게 정치적 열광주의에 보답한 셈이었다"고 말합니다. "그리고 회사는 소셜 미디어 사용의 부정적인 영향에 대해 생각보다 훨씬 더 많이 알고 있었습니다."
호르비츠에 따르면, 페이스북의 경영진은 사명감으로 똘똘 뭉친 기업의 이기주의에 사로잡혀 잘못을 거의 할 수 없고 플랫폼의 성공이 곧 선이라고 믿었습니다. 그들은 결국 전 세계를 연결하고 있었습니다. 그들의 야망은 유토피아적이었고 수익성 또한 매우 높았습니다. 호르비츠는 "그들은 이 플랫폼이 같은 규모로 해를 끼칠 수 있다는 가능성을 전혀 고려하지 않았다"고 말합니다.
2016년 미국 대선이 치러질 무렵, 좁은 인구통계학적 데이터와 관심사에 따라 사람들을 타겟팅할 수 있는 정교한 도구를 갖춘 Facebook은 정치 캠페인의 핵심 도구가 되었습니다. 페이스북은 도널드 트럼프와 힐러리 클린턴의 캠페인에 모두 도움을 제공했습니다. 트럼프만이 이를 수락했고, 이에 따라 페이스북 직원은 샌안토니오로 가서 브래드 파스케일이 2016년 트럼프의 디지털 활동을 지휘하던 사무실로 자리를 옮겼습니다. 페이스북의 타겟팅 도구는 필리핀의 로드리고 두테르테와 인도의 나렌드라 모디의 당선을 돕는 데도 기여했습니다. 페이스북은 독재자들의 집권을 도왔고, 일부 인권 단체의 눈에는 독재자들의 탄압 행위에 연루된 것으로 비춰지고 있습니다.
호르비츠는 "사실 대부분의 국가에서 자사 플랫폼에서 무슨 일이 일어나고 있는지 전혀 알지 못했습니다."라고 말합니다. 비서구 국가들은 "기타 국가"라는 카테고리로 분류되었습니다. 수십 개 국가에서 지배적인 통신 및 방송 매체이지만, Facebook은 해당 국가에 원어민도, 정책 전문가도, 실제 현장 직원도 없는 경우가 많았습니다. 한 직원은 "대부분의 청렴성 시스템은 미국 외 지역에서는 효과가 떨어진다"고 지적했습니다.
페이스북 내부 고발자 프랜시스 하우겐, 알고리즘의 위험성을 경고하다.
- 페이스북 내부고발자 프란시스 호건의 책: 호건은 2019년부터 2021년까지 페이스북에서 일했으며, 회사 내부의 2만 2천 페이지에 달하는 문서를 유출하여 페이스북의 알고리즘과 제품이 사회에 미치는 해로운 영향을 폭로했습니다. 그녀의 책인 "The Power of One: How I Found the Strength to Tell the Truth and Why I Blew the Whistle on Facebook"은 그녀의 고발 과정과 동기, 그리고 페이스북의 문제점과 해결책에 대해 이야기합니다.
- 페이스북의 문제점: 호건은 페이스북이 자신의 플랫폼이 청소년이나 취약한 국가의 사람들에게 미치는 부정적인 영향을 알면서도 이를 숨기고, 수익을 극대화하기 위해 사용자의 주의력을 끌 수 있는 선동적이고 거짓된 콘텐츠를 우선적으로 보여주는 알고리즘을 사용했다고 주장합니다. 또한 페이스북의 CEO 마크 저커버그가 안전과 투명성을 저해하는 결정을 내렸다고 비판합니다.
- 페이스북의 해결책: 호건은 페이스북의 알고리즘과 제품에 대한 외부의 감시와 검증이 필요하다고 주장합니다. 그녀는 정부가 식품 회사가 영양 정보를 공개하도록 하는 것처럼, 소셜 미디어 회사에게도 자신의 알고리즘을 공개하고, 학자나 연구자들에게 접근할 수 있도록 강제해야 한다고 제안합니다. 그녀는 또한 자유롭게 말할 수 있는 권리와 검열의 위험 사이에 가짜 이분법을 만들어낸 소셜 미디어 회사들을 비판하고, 투명성이 부족한 것이 페이스북의 문제의 원인이라고 강조합니다.
Facebook은 해외로 사업을 확장하면서 연줄이 있는 엘리트들을 고용하고 권위주의 정부의 요구에 순응하는 경향이 있었습니다. 베트남에서는 페이스북이 일부 활동가들의 계정을 삭제하지 않자 정부 관리들이 페이스북에 대한 접근을 더욱 어렵게 만들었습니다. 7주 만에 페이스북은 항복했습니다. 어떤 형태로든 베트남에서 페이스북을 계속 이용할 수 있도록 하는 것이 필수적이었습니다. 이 논리는 중국으로 진출하려는 페이스북의 노력에도 적용되어, 페이스북은 중국 정부의 엄격한 기대치를 충족하는 검열 도구를 개발했습니다.
호르비츠의 책에는 시민 청렴성, 성장, 뉴스피드, 안전 등 여러 팀에서 벌어진 회사 내부의 연구와 분쟁에 대한 귀중한 기록이 담겨 있는데, 이들 대부분은 악조건에서 최선을 다하고자 하는 진지한 동기를 가지고 있었습니다. 열띤 온라인 직원 포럼, 직원들이 주커버그에게 질문할 수 있는 전체 회의 등 Facebook에는 내부 비판 문화가 존재하지만, 외부 공격과 유출이 끊이지 않는 회사가 내부 보안 통제를 강화하면서 최근 몇 년 동안 이러한 문화는 줄어들고 있습니다. 호르비츠가 핵심 정보원이 된 하우겐을 만났을 무렵에는 "법 집행기관 출신 직원이 [더] 흔해졌습니다."
호르비츠의 설명에 따르면, 페이스북은 자체적인 구조적 결함을 보완하기 위해 끊임없이 노력하고 있습니다. 콘텐츠 배포와 사람들의 최악의 감정적 욕구를 자극하는 힘으로서 Facebook은 타의 추종을 불허합니다. 페이스북의 잠재적 매력은 무궁무진합니다. 트럼프의 캠페인에 투입된 페이스북 직원은 "페이스북은 무한 스크롤이라는 한 가지 목적을 위해 설계된 페라리였다"고 말합니다. 실제로 Facebook에서 가장 문제가 되는 사용자들, 예를 들어 엄청난 양의 인종차별적 콘텐츠를 퍼뜨리는 사용자들은 하루에 수천 번씩 강박적으로 게시물을 올리는 사람들입니다. Facebook은 노골적인 검열과 악의적인 언론 보도를 경계하는 대신 이러한 사용자의 콘텐츠 도달 범위를 억제하거나 덜 파괴적인 방향으로 행동을 유도하는 방법을 모색합니다. "사람들이 편견에 사로잡혀야 한다면, 회사는 그들이 Facebook에서 편견에 사로잡히기를 바랄 것입니다."라고 Integrity 팀의 한 구성원은 말합니다.
이 책에서는 회사의 핵심 시스템을 점검하기 위해 독보적인 엔지니어나 데이터 과학자를 영입했지만 실질적인 변화를 이끌어내는 데는 한계가 있다는 사실을 알게 된 사례가 여러 번 등장합니다. 성장은 여전히 절실한 과제입니다. 그리고 호르비츠의 이야기에서 대부분 냉정하고 먼 곳에 있는 인물인 주커버그는 주권자입니다. 그는 "빠르게 움직여 새로운 것을 창조하라"는 페이스북의 악명 높은 모토처럼 혁신을 환영하지만, 보호해야 할 이해관계가 있습니다.
그럼에도 불구하고 문제는 분명하며 Facebook의 본질적인 요소입니다. Facebook은 끝없는 사회적 비교 과정을 통해 10대 소녀의 3분의 1이 신체 이미지 문제를 겪고 있다는 사실을 알고 있습니다. 사람들은 Instagram을 사용한 후 기분이 나빠집니다. Facebook도 비슷한 우울증 효과를 일으킵니다. 하지만 회사가 가진 것을 날려버리지 않고 무엇을 할 수 있을까요? 한 직원은 제안된 일련의 변화에 대해 "웰빙 팀이 Instagram을 덜 Instagram답게 만들자고 제안했다"고 말했습니다.
"브로큰 코드"는 요약적인 결론을 제시하지 않고 있으며, 이것이 최선입니다. 너무 많은 기술 서적들이 11개의 장에서 대량 감시와 착취적인 자동화 시스템이라는 끔찍한 곤경에 처해 있다고 진단한 다음, 그 모든 것을 붓질(또는 마우스 클릭)로 쉽게 해결할 수 있다는 거짓 위안을 주는 한 장으로 마무리합니다. 거의 10년 전에 저도 그런 책을 한 권 썼습니다. "브로큰 코드"는 좀 더 나은 책입니다. 이 책은 세계에서 가장 중요하지만 가장 잘 알려지지 않은 기업의 지저분한 내부 계략에 대한 스마트한 조사 보고서입니다. 호르비츠는 회사의 더러운 비밀을 폭로하지만 결론을 내리지 않습니다. 이 모든 것이 사라져야 한다고 판단하는 것은 독자의 몫입니다.
[DeepL로 기사 번역]
기사의 맥락을 읽는 이미지
소셜미디어: 페이스북이 미얀마에 불러온 참극 - BBC News 코리아
페이스북이 미얀마에 불러온 참극 - BBC News 코리아
로힝야족 혐오 게시물은 혐오와 '악의의 좋아요', 공유를 타고 경계와 규제 없이 퍼졌다.
www.bbc.com
- 페이스북과 로힝야족 혐오: 미얀마에서 페이스북이 인기를 얻으면서, 버마족과 로힝야족 사이의 갈등이 심화되었습니다. 페이스북에는 로힝야족과 무슬림들을 향한 증오 발언과 사진들이 넘쳐났고, 이들은 인종청소와 폭력을 부추겼습니다.
- 페이스북의 방관과 비판: 페이스북은 증오 발언들을 규제하고 삭제하는 데 느리고 무능했습니다. 버마어를 할 줄 아는 인력이 부족했고, 콘텐츠 신고 가이드라인이 제대로 작동하지 않았습니다. 유엔과 로이터 등은 페이스북이 미얀마 내 로힝야족 탄압에 '결정적인 역할’을 했다고 비난했습니다.
- 페이스북의 사과와 개선: 페이스북은 자신들의 책임과 실패를 인정하고, 증오 발언에 대처하기 위해 더 많은 인력을 고용하고, 문제의 개인과 집단의 계정을 삭제하고, 지역 단체들과 협력하겠다고 밝혔습니다. 페이스북의 최고경영진들은 미 의회에서 증언하고, 이 문제를 해결하기 위한 조직을 구성할 것이라고 약속했습니다.
- SNS의 영향력과 책임: 페이스북의 사례는 SNS가 사람들의 삶과 행동, 투표 방식, 폭력과 분쟁에 영향을 미치는 세상에 살고 있다는 것을 보여줍니다. 국제 사회는 기술을 발전시키고 이해하고, 자국이나 다른 나라의 SNS에서 어떤 일이 일어나는지를 파악해야 합니다.
