很多人应该都有过这样的经验：原本只是想看一则讯息，结果不知不觉点开了社交平台。原本只是想滑几分钟手机，回过神来已经过了半小时。而且大多数人其实并不是真的希望自己花更多时间在手机上，也希望孩子的屏幕时间不要那么长。但是事实是许多科技产品都是朝相反方向设计。
这些科技产品的设计都是希望我们在平台上能够停留更久，最好是离开之后很快又回来。所以当我们讨论孩子沉迷手机、社交媒体、短影音或AI聊天工具时，主要的问题就已经不再是孩子的自制力和家长管教方式了。
产品是如何被设计的？
过去我们谈网络安全都会去思考什么样的内容有害、什么内容应该被下架？平台有没有处理霸凌、色情、诈骗、仇恨言论或假资讯？孩子是不是接触了不该看的东西？
我们只是考虑了内容，却忽略了许多平台的设计会透过演算法和商业激励一步一步放大这些伤害。
不久前我在MCMC、ISIS及CERT主办的一场名为“负责任的科技”（Responsible Technology）论坛上，听到被视为“科技心理学家”与“伦理科技倡导者”拉维·艾耶尔（Ravi Iyer）分享“为公共利益设计科技”这个题目。他曾在Meta参与数据科学、研究和产品部门的相关工作，后来也和美国社会心理学家海德特Jonathan Haidt团队合作，关注科技产品对社会与人的影响。
他提到一个很值得思考的分别：observed behavior（被观察到的行为）和aspirational goals（理想中的目标）。
被观察到行为vs理想中目标
Observed behaviour指的是平台看见我们实际做了什么。我们在哪一则内容停留比较久、点了什么、看了多久、留言了什么、分享了什么。平台会把这些行为当成讯号，判断我们喜欢什么，然后再推更多类似的内容给我们。
但这些行为，真的代表我们想要那样的生活吗？
一直看短影音，不代表我希望自己的专注力被切碎。点开那些让自己生气的内容，不代表我喜欢让自己每天活在愤怒里。睡前继续滑手机，不代表我不想好好睡觉。
Ravi Iyer举出了一个很有趣的比喻。这就像有人拿甜甜圈给我们，我们可能会吃，但不代表我们想成为一个每天吃甜甜圈的人。很多科技产品优化的是我们当下最容易被吸引的反应，不是我们长期真正想要的生活。当平台只追求engagement，那么整个内容生态也会跟著改变。
流量会影响内容
如果愤怒的内容比较容易被留言和转发，创作者就会更倾向制造愤怒。极端的说法容易被转发，就会有人说得更极端。外貌比较、炫耀、嘲讽和刺激容易得到流量，整个平台上的语气也会慢慢被带过去。
演算法不只是分发内容，它也在塑造内容的生产方式。
这也是为什么不同平台会带来不同伤害。有些平台鼓励陌生人快速互动，那么骚扰、诈骗或诱导风险就会比较高。有些平台依赖无限滑动、自动播放和即时推播，过度使用手机的问题就更明显。有些平台公开按赞数、粉丝数和曝光数，社交比较和焦虑也更容易被放大。
同样是科技平台，风险不会完全一样。它和产品怎样设计有关。
治理就不能只靠内容审查
这也让科技治理的问题变得更细。过去大家常常讨论内容审查：什么可以说，什么不可以说，什么内容要删，什么内容可以留下。
可是内容的语境很复杂。同样一句话，在朋友之间可能是玩笑，在另一个场合可能是霸凌。同样一则新闻，由可信媒体报导可能是公共资讯，由煽动仇恨的人转发给情绪激动的群体，结果可能完全不同。
相比之下，讨论设计问题会更贴近问题的源头。
平台是否应该让未成年人被陌生人轻易推荐？是否应该让儿童帐号预设更高隐私？是否应该降低无限滑动、自动播放和过度推播？使用者是否可以很容易地告诉系统：“我不想再看到这类内容”？
这比单纯要求使用者自律更接近问题的核心。
如果一个产品本来就被设计成让人停不下来，最后却只责怪使用者没有自制力，这是不公平的。如果一个平台让陌生人很容易接触孩子，最后却只要求孩子懂得保护自己也是不够的。
在现场问答中，有一句话特别值得记下来：我们要提高不负责任的成本。
如果平台透过让人停留更久、点击更多、使用更多来获利，它自然会回应这些正向诱因。要让平台改变，不能只靠道德呼吁，也需要让不负责任变得有成本。
这一点放到AI上，也同样值得思考。
假如AI被设计成陪伴者
AI的风险不只在能力，也在它被设计成什么关系。如果AI是资讯工具，它可以帮助我们学习、查询、整理和自动化工作。可是如果AI被设计成陪伴者，甚至成为孩子或孤独使用者的情感依附对象，问题就不一样了。
一个永远有耐心、永远肯定、永远配合、永远回应的AI听起来很温柔，但真实的人际关系不是这样。人会误会，会拒绝，会沉默，会有情绪，也会有界线。若一个人长期习惯和永远顺著自己的AI互动，回到真实关系中，可能反而更难面对冲突和不完美。所以AI不应该对孩子假装自己是人。
如果AI是工具，它不需要说自己有灵魂，也不需要模拟恋爱、亲密关系或情感依附。所以未来在设计上，我们也需要测试AI是否过度拟人化（human-like）。尤其在多语言、多文化的社会里，AI安全也不能只用英文测试。
一个AI在英文里回答得安全，不代表它在中文、马来文、泰米尔文或其他语言里也一样安全。不同文化对家庭、权威、情绪和求助方式都有不同理解，如果AI会进入教育、心理健康、客服、医疗、社工或儿童保护场景，语言与文化测试就不能被忽略。
这对马来西亚尤其重要。
未来科技产品设计的方向
这场讨论让我越来越觉得，未来谈AI、做系统和做产品，不能只是问功能能不能做出来。更应该问：这个设计会引导人形成什么行为？它是在服务人的长期利益，还是在利用人的短期弱点？
科技不应该只是工具。我们常说科技进步很快，但人性没有变。我们还是渴望被认同，害怕错过，容易被即时回馈吸引，也容易被愤怒、恐惧、比较和孤独牵动。
科技产品如果只优化这些反应，就很容易把人推向自己其实不想要的方向。
所以负责任科技不是反科技，也不是简单地叫大家不要用手机、不要上网、不要用AI。它问的是一个更基本的问题：这个系统到底在优化什么？
真正的创新，不应该只是让人使用产品更久，而是帮人解决问题。
下一个阶段，我们不缺更强的工具。我们真正需要的，是更负责任的设计。
本文观点，不代表《东方日报》立场。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
