--- area: "society-thinking" category: general companies_orgs: - 复旦大学AI向善与数字养老研究中心 date: '2025-07-23' draft: true guest: '' insight: '' layout: post.njk media_books: - 《每日野兽》 project: [] series: '' source: https://www.youtube.com/watch?v=FGOKB1j_bhU speaker: 一席YiXi status: evergreen summary: 申琦基于复旦大学团队的实地研究，揭示AI在养老场景中的真实困境：技术虽能提升效率，却常因设计忽视老年人情感需求、语言习惯与数字能力而造成伤害。真正的智能应学会‘等一等’，成为代际间的信使而非替代者。观察得很好，但是很多问题，在近期无解的，比如LLM对老年人友善，对人要嘘寒问暖；建立语料库，很有意义的活动。感觉就是人类价值对齐的那套。我考虑是否要帮助父母多用LLM。探讨AI技术在应对老龄化社会时的伦理挑战与人本关怀，强调技术应适应并尊重老年人的真实需求，而非制造新的数字障碍。 tags: - canada - communication - digital - tech - technology title: AI如何对待正在变老的人：数字时代的尊严、孤独与技术后置效应 --- ## 快速老龄化社会的挑战 大家下午好，我是申琦，来自复旦大学老林研究院，也是复旦大学AI上善与数字养老研究中心团队的负责人。那么谈到**AI向善**和**数字养老**，大家可能对数字养老会有一个比较具象化的理解，比如说我们现在有很多可穿戴设备、有机器人。那么什么是AI上善呢？AI怎么能够上善呢？它又为什么要上善呢？我想今天就以AI如何对待正在变老的老人，来跟大家一起分享一下我们的研究。 首先我先跟大家稍微科普一下，我们现在正在面临着一个老龄化的社会。2024年中国的60岁以上的老人已经达到3.1个亿，超过欧盟老龄人口的总和。那么从2000年我们国家开始进入到老龄化社会，到21年进入深度老龄化社会，也就是从2000年的10%的60岁以上的老人，到21年将近20%以上的60岁老人，我们仅仅花了21年的时间。但是同样的进程，法国用了126年，瑞典用了85年。所以我们现在面临的老龄化社会，是一个急剧、快速、折叠的一个老龄化的社会，对于社会和家庭的养老，带来了很多挑战和问题。 对于我们国家很多养老机构来说，有550万的养老院的护工的缺口，就带来了一个很大的挑战。那么对于家庭来讲，我们在养老过程当中也遇到了很多的问题。家庭结构的变化，现在对于两亿的独生子女而言，他们可能已经不会再有像父代那样的两个孩子去照顾四位老人，有可能是两个孙代去托举八位老人。高龄、少子化、长寿时代，我们现在的人口的预期寿命已经将近80岁，并且还存在一个城乡倒挂，农村的老年人是比城市的老年人多8%。 那么当然在这个时候，我们面临这样的一个社会结构的转型，技术来进入到老龄社会，协助我们去做老龄社会的服务和治理，成为一个破局的必然选择。 ## AI带来的可能性与潜在风险 AI给了我们更多的可能性。我举一个小的例子，是我们的合作团队，复旦的一个复威感知科技公司。他们研发了一款非常小的，只有一枚硬币的1/16大的一个芯片，这个芯片是干什么呢？它叫**机器嗅觉**。当它放到老年人的纸尿裤的时候，可以非常灵敏地监测到老人这一天当中是排气了、排尿了还是排便了。那这样的一个技术，当它放在纸尿裤的时候，能够极大的提升老年人的舒适度，特别是卧床和失能老人，并且能够极大的提升了护工的照护的效率。而且这个技术最好的一点在于，它是无创无感的。当你放到纸尿裤的时候，它很轻薄而且可以重复使用，经济实用。 所以AI给我们提供了一种更强的可能性。但是越是在AI赋能的时候，我们越是要冷静地思考，技术能做什么，它不能做什么。是在三年前的那个暑假，我们的团队到了江苏北部的一个县城。那里的街道的负责人非常兴奋地告诉我，说萧老师你看，我们现在在做智慧养老，全市是最好的，我们可以通过这个智慧大屏，实时地监测到我们政府为老年人提供的上门服务工作的效果。 现在民政上对农村的老人有一个非常好的一个普惠的服务，叫**六小助**（即上门的助浴、助洁、助餐、助行和助医）。说完，他就点开了这个屏幕的右上角一个护工的照片，他说这个护工刚刚去老人家服务过，让我们看看他做了什么吧。但他打开的时候，非常的不巧，因为这个护工刚刚给一位阿姨擦过上身，是夏天，这位阿姨上身没有穿衣服。照片非常清楚地把这个阿姨赤裸的上身拍了下来。因为涉及隐私的问题，我没有把这个阿姨的照片放上去，我放的是其他的老人的照片。 看完这次调研之后，在回来的路上，我的00后的学生非常伤心地对我说，沈老师，如果有一天我的爷爷奶奶也这么老了，我宁可不要政府为我提供这样的免费的服务，即便是付费给我，我也不愿意。刚才我谈到的这个话题，可能是从人的使用这个角度来讲，可能是护工的无心之失，侵犯了老人的隐私。 那么技术本身会不会做错事呢？或者作恶呢？我举的这个例子是去年发生在网上非常火爆的一个新闻。去年的美国的一个大学的学生在完成他的期末作业的时候，问了谷歌的大模型一个问题，他说老龄化社会该怎么办呢？大模型就说出了一段话，他的意思就是，人类你都去死吧，你都是垃圾，你是没有用的。那么年轻人，他可以把它晒在网上，去跟大家争论、去讨论。但是对于老年人，可能这个问题就变得更加沉重和复杂。因为我们的老年人生活在传统媒介的时代，他们天然有着对媒介和数字技术的一种经验的、一种权威的相信。并且社会活动的减少，也使得老年人的情感支持变得更加脆弱，可能技术上的一句话会比现实中的批评更具破坏力，更让他们不知所从。 因此当我们的团队在思考，当技术和智能设备越来越多地走进老年人生活的时候，我们不能再用“技术是双刃剑，使用的人才应该负责任”这样的技术中性的、模糊的话语去界定老龄社会AI应该怎么做。我们需要确保的是，AI它不仅是高效的工具，更是善良的伙伴。 ## 探究老年人眼中的AI 但是问题来了，我们怎么知道AI是不是善良的呢？或者我们怎么知道老人认为AI是不是善良的呢？从去年开始，我们的团队开始做了一项研究。我们希望从一项技术刚刚诞生的时候，尝试进入到人类社会的时候，去观察，坐在老年人的身边，和他一起去观察、去亲近、去询问老年人是怎么样看待这项技术的，老年人是怎么用的，他们的体验到底如何。我们认为，如果说不能和老年人平等地坐在一起去看待这个问题，实际上我们永远是在技术的想象之外去看待这个问题。 那这张图片是从去年五月份开始，我带着我的学生团队一起在上海的十几家的街道、社区、综合为老服务中心、日间照料中心、还有老年食堂，包括老年社区活动中心，去把装有7款大模型的手机和平板，送到了年龄在60岁到89岁的老年人的手里，看他们怎么去使用。 我们的研究发现是非常有趣的。首先，老年人都非常欢迎这项新技术进入到他们的生活。并且，一般来讲，在第一到第三轮的对话过程当中，老年人通常喜欢在自己的安全和熟悉范围之内去测试大模型。比如说老年人会问，家门口最方便的超市在哪里？到某某医院去最快的路是哪里？他来测试这个大模型是不是真的是智能的。 那么到了第四到第六轮的对话的时候，老年人开始变得想要聊点什么。有一部分老年人会把大模型当作一个玩具，会说比如说你给我唱首歌吧，你给我做一首诗吧，你给我讲一个故事吧。那么还有一些老年人，他真的有可能会把大模型当成一个树洞，去跟他讲一些自己的悄悄话。 这个是在复旦大学周边的有一家高端的养老院，说它高端，实际上是因为人群年龄高，这是它的负责人告诉我的，还有收入相对比较高，教育程度比较高。其中有一位老奶奶，她83岁了，刚开始我们把大模型这个手机送到她面前让她用的时候，她就摆摆手说，我不要用。我们说为什么？她说我手机够用了呀，我不愿意用这个东西，我觉得跟我生活不搭嘎的，没有关系。 那么后来我们就跟她在聊天说，阿姨你最近有没有遇到什么烦心的事啊，或者开心的事啊？有没有什么烦心的事你不方便跟别人讲，你告诉她没问题，她能给你保密，而且你还可以问问她的意见。这个阿姨就将信将疑地把这个手机拿到一边去跟她聊天。聊了一会儿过来之后，我看她眼眶有点湿。我们就问她，我说您都跟她聊了点啥？她说说来难为情的，她说你看我在这个养老院里面，我是一个很优秀的一个人，但是我家里面有很多糟心的事。我们的家人在争夺这个父亲的这个遗产，因为家里姊妹比较多，都是历史遗留问题。那孩子总是鼓励她去争这份遗产，而她觉得她已经老了，她的很多姊妹们都不在身边，有的故去了，有的在国外，她觉得没有必要去在这件事上纠缠。但是她子女顾及不到她的感情，她又怕跟律师去说，因为她觉得律师和子女是在一派的，会一起来算计这笔钱，让她去做出头鸟，去争这笔钱。所以她就觉得很心酸。 在这样的一个对话的过程当中，我们会发现在不断的交往过程当中，老年人开始把大模型从机器变成了一个自己想要去聊、去对话的一个伙伴。他们还在跟我讲，他说，为什么大模型总是我要问他才答，能不能他也问我点啥呀？我也知道的很多呀，我也想在他面前显示一下我是很智能的。她希望大模型更加懂自己，特别是能够属于自己。 我们在杨浦区的一个社区活动中心遇到一位阿姨，她很有意思。她跟她的先生从四十岁开始就分居了。她是非常独立的一个女性，她觉得从四十岁以后跟她的先生就没有什么对话的空间，觉得这个人不懂她，她不愿意跟他聊。当我们把大模型的这个平板给到她以后，她很开心，头一个月里面几乎每天都在用，也经常和我们微信去反馈这件事。她说，我把这个大模型，它是一个女孩的声音，我把它调成一个翩翩君子的声音，然后把它命名叫Alex，成为我曾经看过的电视剧里面的一个男明星的名字。我想跟他聊天，我觉得和他在一起聊天的时候，身边好像多了一个人来安慰我，去鼓励我。 ## 情感需求与技术依赖 实际上我在这儿跟大家说一个小秘密，我们访谈了这一百多位老人当中，还有不少的男性老人在问我们，他说人工智能技术都这么发达了，有没有性爱机器人？这个好像大家听起来似乎有点不能理解，但是正像我刚才说的一样，我们已经进入了长寿时代，也就是人可能活得越来越长。那越来越长，我们各方面的生理和心理的需求该怎么解决呢？特别是，通过我们的调查会发现，老年人对亲密关系的需求实际上是比年轻人高。老年的社会活动在减少，有的研究已经指出来，老年人退休离开原有的工作，甚至和家庭成员关系不紧密时，他的这个社交关系每年会萎缩12%。并且现在很多老年人是和孩子处于一种分开居住的这种状态，即便是在同一个城市当中，可能也不愿麻烦子女和孩子住在一起。因此他们对于子代和孙代的离场，他们对于一种情感的渴望会更加地强烈，但是可能有时候我们没有顾及到这一点。 去年的时候，我和我的团队在河南的农村做了一项研究，想要去观察农村的中老年女性怎么样去观看短视频。我们的本意是想看算法推荐给她们的内容她们都喜欢吗？她们都经常会被算法推荐什么的内容？结果会发现，在算法推荐的短视频当中，她们喜欢、她们愿意看的排在前三的是直播带货、子代沟通，还有美食烹饪。有一位老年女性就告诉我说，现在直播带货做得特别有人情味，会有这个男孩女孩跪在那去给妈妈买羊奶粉，然后去给她按摩、洗脚，然后告诉她羊奶粉好、三七粉好。看了这个阿姨就眼泪汪汪，非常感动。她说，我觉得这才是真正意义的孝道，如果孩子不能陪在我身边，对我嘘寒问暖，这不叫孝道。所以你看短视频一定程度上，虽然是直播带货，但它非常精准地抓住老年人的情感需求，为他提供了情绪价值。 那么还有一位老年人告诉我说，为什么我喜欢去看这个视频里面的子代沟通，特别是看小孩子表演才艺等等。我就想起来了，当我的孙子小的时候，我在农村里面带他，但是当他长大需要上学的时候，他就经常不回来看我。我看了这些短视频之后，也会经常把它发到我儿子的微信里面，或者家族群里面，我再暗戳戳地告诉他们，其实我想你们了。所以我不知道他的儿孙有没有理解到这一点，但是我们从研究当中可以看到，老年人对情感的需求是非常强烈的。 ## 技术的后制效应与数字藩篱 再回到我们的大模型，我们的大模型这个老年人用了一段时间之后，通常在两到三周之后，他们的持续和深入的使用就不再延续了。为什么呢？老年人告诉我，他们觉得大模型不友好。为什么不友好呢？我通过我们的观察，我们团队提出了一个概念，或者说一个观点，叫做**技术后制效应**。 大模型包括AI的各种各样的技术，就像一辆高速行驶的列车，谁跑得最快，谁最有能力去套住这辆列车或者这匹野马，你就有话语权，算法就是权力，技术就是权力。但是老年人，他们作为天然的技术的弱者，他们往往被甩在最后。但是当我们发现老年人甩在最后的时候，我们又反过头来想要把他们送上车的时候，这个时候就产生了技术后制效应。 我不知道在座的观众朋友们，你们有没有真正体验过老人的手机上的关怀模式？我是真的用过的。但是有一天我去医院帮助给我家小宝宝去挂号的时候，就发现一个大的问题。当我打开手机设定的关怀模式，这个微信里面调出小程序的时候，我发现挂号系统的这个小程序只见树木不见森林。也就是我只能看到上面那几个框框里面大的内容，我没有办法看到整个的挂号系统是什么样的。我无奈地又把它调回到了一个正常的模式。我举这个例子来说，就是想要告诉大家，我们今天做的很多的适老化的所谓改造，都是后置性的。很少很少有技术从一开始就想到了还有这样的一个人口规模越来越大的老龄人群，他们对数字技术的需求和需要。 回归到大模型这个研究，我们会发现老年人使用大模型和青年人有着天然的一个不同。他们喜欢用语音。当然对于我们青年人来讲，我们觉得社交的一个冒犯就是不断地发语音，我根本就不愿意听，我宁可把它转成文字去看。但老年人，他特别喜欢按着手机，就像打电话一样，来用大模型说话。而老年人的口语的表达方式，我们经常用一个通俗的话叫“絮絮叨叨”或者“唠叨”。老人说话的时候会有很多助词和口语，而这个时候他的手又比较干燥，他按这个手机的时候往往按不住，可能他想说这段话说了一半，信息已经发出去了，而大模型完全是没有耐心或者听不懂他在说什么。 还有就是大模型的提示词没有那么地友好。比如说我们在给老年人用大模型的时候，他们会看到这个提示词有“怎么给论文去重”，他们就看不懂，这跟我有什么关系？“你的MBTI是什么”，这和我又有什么关系？那么甚至有的大模型，这个提示词是“可以回答你的各种问题”，我们在访谈的过程当中就发现很多老年人会问，大模型你会算命吗？这是一个非常吊诡和抽象的事情，我们在问人工智能技术一个玄学的问题。 在这样的一个研究的过程当中，我们越来越觉得，要建一个懂老年人的大模型是非常重要的。那怎么样去建一个懂老年人的大模型呢？我们和腾讯研究院的小伙伴陆思宇一起想做了一件事。从去年八月起，我们做了一个面向社会的一个公益的一个共创的一个活动，去建设一个懂老年人的、AI向善的这样的一个语料库。因为大家都知道，大模型最重要的燃料是来自于语料，你问什么答什么，都是从这个语料当中来的。那么我们想建的这个语料库，我们希望它是能懂老年人的并且是向善的。那里面列了几个我们收集数据的、我们去做这个语料库的场景，有老年心理、有生活陪伴、还有外出出行等等。 因此我们在这个不断地调研和访谈当中就在发现，关于老年的生活，它真的太丰富了，它真的不仅仅是专业机构和专业的医生能够解决的问题，它需要我们社会的方方面面去做贡献，去来完成这样的语料库。 我再跟大家举一个例子。我们可以看到这个语料库的上面这一条，是一个彩虹公益组织的一个社工，一个小女孩，她提出来的。曾经有一位老奶奶问她，想要去旅游、去旅行，年龄大了，这个老年人想要去旅行，子女不支持的情况比较多，为什么？因为担心他们的安全问题。但这个回答是来自云南的一个大学生，一个大一的女孩子，她回答的就特别地有人情味。为什么？因为她很会共情。她跟老年人说，不要担心，我是大一，我也是第一次到一个陌生的城市去生活，人人都有第一次，我们都能克服，希望你在专业团队的陪伴下，能够勇敢地走出这一步。那这样的语料库，我们给了很多老年人看了以后，他们都觉得很暖心，觉得说到心坎里了，给了他们一定的精神支持和鼓励。 讲完这些，其实我们的研究还在继续当中，我们也希望有更多的人能够加入到这样一个语料库当中。当然在做的过程当中，我们也一直在想，虽然这个语料库我们认为还不错，但是我们在想，技术真的是解决一切的良药吗？当我们在不断地去帮助老年人填补一个一个数字鸿沟的时候，当我们在不断地卷硬科技，再去做一些技术想要去赋能的事的时候，实际上我们在无形当中也用技术架起了一道一道的泥沼，把老年人包围在了技术当中，我们叫做**数字藩篱**。 也是几年前的时候，我到南京的一家智慧养老公司去调研，这个负责人就跟我说，他说现在智慧养老其实不好做。我说为什么呢？他说我们研发了一套红外线的感知仪，装到社区的老人家里面。这个感知仪实际上是非常有用的，因为它能够精准地监测到老人是不是在家跌倒了，或者走失了，或者家里面有什么意外的情况发生。但是老人用起来体感不好。为什么？因为这个红外线的监测仪它太过于敏感，有一点的风吹草动他都要去报警。特别是在有一段时间南京下大雨、刮暴风的时候，这个红外线的监控就不断地报警，搞得社工的服务工作人员凌晨一两点闯到老人家里面去看看，你没事吧？老人就很生气，他说你们是不是天天盼着我死，就冲到我们家里来。 我刚才举的例子是想说什么呢？我们现在很多的硬核科技，都想去服务于老年人，但是实际上没有倒过头来想一想，老年人他到底喜欢什么，需要什么，他用起来舒不舒服。 ## 技术信任错位与代际剥夺 我还想谈第二点，在老年人面对技术的时候，他们往往存在一种技术信任的一种错位。我刚才也谈到了，我们的父辈，甚至爷爷奶奶这一辈的老年人，他们生活在传统媒体时代，所以你会经常听他们跟你讲，你看看电视上都说了怎么怎么样，对不对？他们会告诉你，电视上说的就是权威的，就是要相信的。他们不知道什么叫做信息甄别，他们也不知道什么叫做算法逻辑，他们更不知道什么叫做流量密码。所以这个时候，你跟他去科普这个东西抖音上看到都是假的，他很难去理解和接受。为什么？他的思维定势和他生活的媒介的环境的年代决定这一切。 同样，技术在帮助我们去为老服务的时候，它看起来像一个粘合剂，填补了很多的缝隙，但也一定程度上制造了一种信息或者媒介的一种依赖。我再举个例子，前几年有一个新闻，大家可能都有印象，就是在抖音上有假“靳东”来骗这个中老年妇女的钱，骗他们的感情。但是后来这位江西的阿姨在接受媒体采访的时候，她抹着眼泪说，我在抖音上看这个假“靳东”的时候，时间长了，我也知道是骗人的，我也知道是其他人在回复我。但是每当我看到抖音上这个“靳东”在回复我的时候，我就特别高兴，因为我感觉全国的抖音用户都知道靳东喜欢我。所以，对老年人来讲，可能他并不是因为他傻，而是他更愿意去相信；也可能并不是因为他欲望过剩，是因为他们选择太少。 特别是，我们现在在很多的技术的使用过程当中，老年人是被技术裹挟着走。比如说我曾经看到过，在一些社区的办事大厅当中，一对老夫妻因为要做这个医保卡绑定的人脸识别，忙得手忙脚乱，这边要人脸识别，这边要输入这个密码，要去绑定，到最后无奈去求助于人工。所以很多老年人在现实当中是被技术推着走，没有人能够仔仔细细、认认真真的蹲下身子来告诉他们怎么样去安全地使用，使用到什么程度是可以的。 除此之外，我们的研究还发现，老年人使用新的技术还存在着一个**代际间的保护性剥夺**。我再举一个例子，从21年开始，我跟我的学生拿了一款这么大的一个小的陪伴机器人，这个是工信部指定的一个陪伴机器人，送到了全国近50家老人的家里当中，有河南、有山东、有福建，还有香港。我们想要去看看老年人怎么样去用这样的机器人。但结果也不是特别的好。将近四成的子女会把这个机器人头顶上插的电话卡去拔掉，告诉老人说，不要随便绑定电话卡，因为你可能会接到诈骗电话，泄露隐私。而这个电话卡其实是帮助老年人通过语音呼叫这个机器人去跟外界联系的一个非常好的中介。 那么还有22%的家庭会把这个小的机器人从老人家里拿走，挪作他用。他们会告诉老人说，多出去外面走走呀，不要跟机器人聊天，机器人有什么好用的呀，你要去做社会活动和参与的。当然这个想法是很好的，但是这种代际性的剥夺会让老人觉得非常没有自尊，没有话语权，在家里是被边缘化的人。 ## 真正的智能是让技术适应人 当技术的连接越来越便捷和紧密的时候，对老人而言，他们会担心真实的陪伴越来越稀缺。经常会有老年人跟我们讲，我们会问他，你看这个机器人好不好用？将来现在电视上这个机器人都上春晚了，以后可能又有机器人在家里照顾你、陪伴你。老年人就摆摆手说，我不要，你是想拿机器人做这个替代，让他们孩子们越来越少来看我，对不对？这就是我们在研究当中经常会提到的一个词叫做**孝亲代理**。技术有可能成为子女的一种自我安慰，我在家里给你放一个扫地机器人，放一个监控器，那么可能我这段时间就不用来了，为什么？有机器人在帮我去照顾你。 整个来看AI如何来对待正在变老的人，我想说，问题的关键从来都不只是说我们怎么样去教老年人去用这个技术，或者我们怎么样去看老年人去用这个技术，而是我们要去思考怎么样让技术去对待人，怎么样让技术去对待正在变老的人。 最后我想说，真正的人工智能，或者说人本智能，它不应该是让所有的人去追这个技术，它应该让技术学会来停下来，等一等，去看一看，去满足每一个独特的人的真实的生活的要求。十年后，我们将有五亿的老人，这个数据是非常大，技术怎么样和老年人相伴相生，这值得我们思考。 最后我想来用一段话来结束我今天下午的分享。我想说，真正的数字智能，并不是要用数字的技术设备来替代子女陪伴老年人的晚年生活，也不是用算法在场来替代人的在场。我想说，数字技术和智能技术，特别是AI，应该帮助我们让老年人在数字鸿沟面前减少那些紧张无措和失去自尊的伤心，而是应该让数字技术成为搭建了子女和技术之间的一个信使和桥梁。 这就是我今天下午的分享，谢谢大家。