搜索

[13806] 2019-02-27_当算法觉得你想死……

文档创建者：s7ckTeam
浏览次数：0
最后更新：2025-01-18
2019-02-27_当算法觉得你想死…… 当 算 法 觉 得 你 想 死 … … A l l e n 别 b b   F r e e B u f   2 0 1 9 - 0 2 - 2 7 一 个 悲 伤 的 故 事 ， 英 国 一 个 悲 伤 的 故 事 ， 英 国 1 4 岁 少 女 岁 少 女   M o l l y   R u s s e l l   在 在 2 0 1 7 年 令 人 意 外 的 选 择 了 自 杀 ， 我 们 可 能 很 难 想 象 究 竟 会 是 年 令 人 意 外 的 选 择 了 自 杀 ， 我 们 可 能 很 难 想 象 究 竟 会 是 什 么 样 的 事 情 能 让 一 个 涉 世 未 深 的 小 女 孩 走 上 绝 路 。 什 么 样 的 事 情 能 让 一 个 涉 世 未 深 的 小 女 孩 走 上 绝 路 。 之 后 的 发 现 ， 在 M o l l y 自 杀 之 前 曾 在 网 上 搜 寻 关 于 自 杀 和 自 残 的 图 片 ， 这 些 图 片 甚 至 通 过 一 些 她 喜 欢 的 社 交 平 台 被 推 荐 出 来 。 即 便 是 在   M o l l y   去 世 之 后 的 几 个 月 里 ， P i n t e r e s t   依 然 在 自 动 推 送 给 她 一 些 电 子 邮 件 ， 内 容 也 是 关 于 自 残 相 关 的 图 片 ， 甚 至 打 开 M o l l y   的 I n s t a g r a m ， F e e d 流 中 也 充 斥 着 大 量 相 关 的 内 容 。 悲 剧 发 生 之 后 ， M o l l y   的 父 亲 认 为 I n s t a g r a m 和 P i n t e r e s t   是 杀 害 他 女 儿 的 帮 凶 。 我 始 终 坚 持 ， 技 术 无 罪 。 但 当 算 法 认 为 你 想 死 的 时 候 ， 我 们 又 该 怎 么 办 ？ 我 始 终 坚 持 ， 技 术 无 罪 。 但 当 算 法 认 为 你 想 死 的 时 候 ， 我 们 又 该 怎 么 办 ？ M o l l y   的 悲 剧 让 人 有 一 种 说 不 出 来 的 无 奈 ， 甚 至 有 些 气 愤 。 据 此 衍 生 出 一 个 新 的 论 点 — — I n s t a g r a m 和 P i n t e r e s t 等 社 交 平 台 正 在 加 剧 年 轻 人 “   精 神 健 康 危 机   ”   。 英 国 青 少 年 的 自 杀 率 是 八 年 前 的 两 倍 ， 社 交 媒 体 被 认 为 是 英 国 “ 自 杀 一 代 ” 崛 起 的 一 个 原 因 。 M o l l y 的 去 世 ， 让 很 多 人 注 意 到 了 所 谓 大 数 据 、 算 法 的 问 题 。 英 国 卫 生 部 长   M a t t   H a n c o c k   表 示 ， 社 交 媒 体 需 要 清 除 这 些 极 其 负 面 的 内 容 ， 而 不 这 样 做 将 会 面 临 重 大 诉 讼 。 在 此 之 前 ， I n s t a g r a m 的 规 则 只 是 反 对 “ 美 化 ” 自 杀 和 自 残 ， 而 现 在 已 经 直 接 禁 止 。 但 简 单 的 禁 令 并 不 能 解 决 这 些 问 题 ， 社 交 平 台 不 仅 仅 会 托 管 这 些 负 面 内 容 ， 而 且 在 推 荐 算 法 的 指 引 下 ， 这 些 内 容 也 最 终 会 呈 现 给 最 容 易 受 到 影 响 的 人 。 推 荐 是 一 种 更 主 动 的 行 为 ， 而 不 只 是 单 纯 的 可 获 得 性 。 越 来 越 多 的 学 术 文 献 证 实 了 这 一 点 ： 无 论 是 自 残 、 谣 言 、 招 募 恐 怖 分 子 还 是 某 种 阴 谋 论 ， 平 台 所 做 的 不 仅 仅 是 让 这 些 内 容 容 易 被 找 到 ， 因 为 算 法 的 存 在 ， 社 交 平 台 一 定 程 度 上 有 助 于 扩 大 这 些 内 容 的 传 播 。
我 们 试 图 去 探 索 I n s t a g r a m ， P i n t e r e s t 和 T u m b l r 等 如 何 向 用 户 推 荐 这 些 负 面 内 容 ， 发 现 这 些 社 交 平 台 针 对 自 杀 、 自 残 类 的 内 容 有 一 些 限 定 规 则 ， 通 过 屏 蔽 一 些 关 键 词 或 者 标 签 来 使 用 户 更 难 找 到 ， 但 这 些 内 容 仍 然 能 是 存 在 的 ， 而 且 算 法 也 会 根 据 某 种 规 则 推 荐 出 来 。 在 P i n t e r e s t 上 被 称 为 “ 你 可 能 喜 欢 的 东 西 ” ， 这 些 都 是 在 算 法 驱 动 下 根 据 用 户 浏 览 习 惯 判 断 用 户 感 兴 趣 的 内 容 。 对 于 企 业 来 说 ， 更 喜 欢 称 之 为 “ 智 能 化 推 荐 ” 、 “ 个 人 化 服 务 ” 等 等 ， 被 视 为 是 一 种 使 用 体 验 的 提 升 。 例 如 ， 当 你 搜 索 家 装 灵 感 ， 很 快 在 信 息 流 中 你 会 看 到 各 种 油 漆 样 本 相 关 的 图 片 ， 还 会 进 一 步 推 荐 业 余 室 内 设 计 师 。 这 意 味 着 ， 当 用 户 越 频 繁 搜 索 自 杀 或 者 自 残 等 负 面 内 容 时 ， 算 法 更 加 会 判 断 你 所 喜 欢 的 是 这 类 东 西 ， 然 后 通 过 不 同 方 式 推 荐 给 你 。 正 如 M o l l y 的 父 亲 发 现 的 ， 社 交 平 台 的 推 荐 算 法 并 没 有 区 别 对 待 。 社 交 平 台 所 展 示 “ 你 可 能 喜 欢 的 ” 内 容 ， 可 能 它 本 身 就 违 反 了 自 己 的 预 定 的 规 则 。 试 想 一 下 ， 如 果 你 是 那 个 试 图 在 社 交 平 台 寻 找 自 残 类 型 负 面 内 容 的 人 ， 系 统 推 荐 算 法 在 得 知 这 种 趋 势 之 后 ， 反 而 为 你 推 荐 的 是 阳 光 积 极 的 内 容 ， 教 你 重 塑 健 康 的 心 理 状 态 ， 算 法 建 议 的 可 能 并 不 是 你 当 时 所 想 看 到 的 内 容 ， 但 它 会 引 导 你 走 向 一 个 比 较 正 确 的 状 态 ， 或 许 这 就 是 算 法 真 正 应 该 做 的 事 情 吧 。 在 现 在 的 互 联 网 世 界 ， 很 多 人 更 愿 意 在 社 交 平 台 去 倾 诉 或 者 发 泄 内 心 的 想 法 。 社 交 媒 体 就 会 成 为 一 个 摆 在 他 们 面 前 的 镜 子 ， 这 面 镜 子 能 够 直 接 反 映 用 户 的 心 理 状 态 ， 还 可 以 放 大 或 者 扭 曲 它 。 而 这 两 种 截 然 不 同 的 导 向 均 取 决 于 算 法 如 何 去 引 导 ， 当 算 法 觉 得 你 想 死 ， 我 们 能 更 希 望 算 法 能 做 一 个 思 想 的 引 导 者 ， 而 不 是 继 续 把 用 户 带 到 死 神 面 前 。
算 法 应 当 具 备 价 值 观 底 线 。 算 法 应 当 具 备 价 值 观 底 线 。 当 然 ， 这 样 的 前 提 是 ， 社 交 平 台 所 设 定 的 禁 令 规 则 是 完 美 的 ， 那 么 算 法 建 议 所 展 示 的 仅 仅 提 供 用 户 最 可 接 受 的 内 容 ， 而 实 际 情 况 却 并 非 如 此 。 内 容 审 核 非 常 困 难 ， 可 接 受 和 令 人 反 感 这 两 种 规 则 之 间 的 界 限 可 能 很 多 时 候 都 是 模 糊 不 清 的 。 即 便 设 立 人 工 审 核 机 制 ， 大 型 社 交 平 台 每 天 新 发 布 的 内 容 有 成 千 上 万 条 ， 审 核 者 需 要 在 几 秒 钟 甚 至 更 短 的 时 间 里 判 断 出 是 否 影 响 用 户 心 理 健 康 的 ， 这 样 的 内 容 实 在 太 多 ， 不 仅 仅 是 自 残 类 型 ， 日 复 一 日 ， 总 会 有 遗 漏 的 内 容 。 以 M o l l y 的 悲 剧 为 例 ， 社 交 平 台 的 禁 令 不 仅 不 够 完 善 ， 甚 至 还 可 能 间 接 造 成 更 多 悲 剧 发 生 。 很 多 试 图 自 残 或 者 有 自 杀 倾 向 的 人 通 过 网 络 找 到 了 巨 大 的 情 感 支 持 以 及 继 续 生 活 下 去 的 动 力 。 通 过 建 立 小 范 围 的 社 交 圈 来 互 相 抱 团 取 暖 ， 甚 至 最 终 走 出 阴 霾 。 对 于 这 些 人 来 说 ， 社 交 平 台 更 是 唯 一 发 出 求 助 呼 声 的 渠 道 。 一 味 的 禁 止 会 挤 压 这 些 群 体 的 存 在 ， 在 缺 乏 同 类 之 间 的 交 流 和 接 纳 感 时 ， 则 会 深 陷 自 己 的 消 极 精 神 世 界 无 法 自 拔 最 终 导 致 悲 剧 发 生 。 所 以 ， 现 在 的 问 题 不 只 是 简 单 的 让 这 些 内 容 消 失 。 而 是 平 台 需 要 更 好 地 识 别 哪 些 内 容 在 什 么 时 候 更 适 合 呈 现 给 所 以 ， 现 在 的 问 题 不 只 是 简 单 的 让 这 些 内 容 消 失 。 而 是 平 台 需 要 更 好 地 识 别 哪 些 内 容 在 什 么 时 候 更 适 合 呈 现 给 哪 些 群 体 ， 当 搜 索 的 内 容 和 算 法 推 荐 的 内 容 不 同 时 ， 平 台 还 需 判 断 这 些 内 容 是 否 对 某 个 人 有 利 的 同 时 却 对 整 个 哪 些 群 体 ， 当 搜 索 的 内 容 和 算 法 推 荐 的 内 容 不 同 时 ， 平 台 还 需 判 断 这 些 内 容 是 否 对 某 个 人 有 利 的 同 时 却 对 整 个 公 众 有 潜 在 威 胁 。 公 众 有 潜 在 威 胁 。 我 们 没 有 充 分 讨 论 推 荐 系 统 ， 也 许 是 因 为 这 些 现 在 已 经 非 常 普 遍 ， 也 可 能 是 因 为 大 多 数 用 户 不 了 解 其 工 作 方 式 。 我 们 可 能 会 嘲 笑 F a c e b o o k   推 荐 给 我 们 已 经 购 买 的 亚 马 逊 产 品 ， 也 许 不 喜 欢 S p o t i f y   觉 得 我 们 喜 欢 悲 伤 的 音 乐 ， 因 为 即 便 你 只 是 有 过 一 次 特 定 的 行 为 ， 算 法 就 已 经 开 始 以 此 为 依 据 判 断 你 的 兴 趣 推 荐 更 多 的 东 西 。 在 《 压 迫 算 法 》 中 ， S a f i y a   U m o j a   N o b l e   批 评 谷 歌 在 其 搜 索 结 果 中 放 大 了 种 族 刻 板 印 象 ； 《 T w i t t e r   a n d   T e a r   G a s 》 的 作 者 Z e y n e p   T u f e k c i   强 调 了 Y o u T u b e   放 大 阴 谋 理 论 和 极 端 主 义 内 容 的 倾 向 ， 认 为 其 推 荐 算 法 “ 以 不 断 增 加 风 险 的 方 式 宣 传 、 推 荐 和 传 播 视 频 ” 。 类 似 的 探 讨 越 多 越 好 ， 这 些 推 荐 内 容 会 对 心 理 不 那 么 健 康 的 人 带 来 什 么 影 响 ， 人 们 看 法 有 所 不 同 。 有 人 认 为 自 残 的 图 很 容 易 看 到 ， 有 人 却 觉 得 很 难 遇 到 ， 而 多 次 看 到 更 是 难 上 加 难 。 现 在 经 营 者 I n s t a g r a m 的 A d a m   M o s s e r i 承 认 ， 该 平 台 不 是 单 纯 地 “ 需 要 处 理 自 杀 和 自 残 问 题 ” 。 P i n t e r e s t 发 言 人 表 示 ： “ 我 们 现 有 规 则 已 经 不 允 许 任 何 鼓 励 自 我 伤 害 的 内 容 。 但 是 ， 我 们 知 道 这 些 政 策 是 不 够 的 。 我 们 刚 刚 进 行 了 重 大 改 进 ， 以 防 止 我 们 的 算 法 在 用 户 的 主 页 F e e d 中 推 荐 敏 感 内 容 。 我 们 将 很 快 采 用 更 主 动 的 方 式 来 检 测 和 删 除 它 ， 并 为 寻 找 它 的 人 提 供 更 多 富 有 情 感 的 支 持 。 单 靠 我 们 自 己 不 可 能 做 到 这 一 点 ， 这 就 是 我 们 与 心 理 健 康 专 家 合 作 使 我 们 的 方 法 更 有 效 的 原 因 。 “ 但 是 ， 这 些 改 变 会 变 的 越 来 越 难 。 算 法 推 荐 已 成 为 社 交 媒 体 将 用 户 留 在 自 己 平 台 的 的 主 要 手 段 ， 它 不 太 可 能 消 失 。 这
些 算 法 经 过 优 化 以 满 足 个 人 用 户 的 需 求 ， 为 集 体 利 益 优 化 它 们 要 困 难 得 多 。 社 交 媒 体 公 司 还 需 要 更 多 关 于 心 理 健 康 的 知 识 ， 以 更 好 地 区 分 令 人 反 感 和 有 价 值 的 内 容 ， 并 更 好 地 认 识 到 这 些 平 台 可 能 对 精 神 疾 病 患 者 造 成 的 影 响 。 这 是 I n s t a g r a m   承 诺 的 举 措 ， 他 们 必 须 坚 持 到 底 。 人 们 不 只 是 在 寻 找 内 容 ， 可 能 还 在 等 一 个 答 案 甚 至 在 寻 找 一 个 生 活 下 去 的 动 力 。 当 算 法 认 为 一 个 人 想 死 的 时 候 ， 它 至 少 应 该 学 会 告 诉 他 ： 不 ， 你 不 想 。 * 参 考 来 源 ： 参 考 来 源 ： W I R E D ， 由 ， 由 A l l e n 别 别 b b 编 译 ， 转 载 请 注 明 来 自 编 译 ， 转 载 请 注 明 来 自 F r e e B u f . C O M 阅 读 原 文
回复

举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

使用Markdown编辑器编辑 使用富文本编辑器编辑

Archiver| 手机版| 小黑屋|
Powered by Discuz! X3.4 Copyright © 2001-2020, Tencent Cloud. 商业源码建议获取授权，如侵犯您的权益，请联系客服处理