《拐点》:如何驾驭人工智能,为你所用

郑胜辉 2024-09-12 22:12:41

郑胜辉学习与思考第2460天

《拐点》,副标题叫“站在AI颠覆世界的前夜”。2023年,被称为AI,也就是人工智能元年,这是因为2022年底,全球知名人工智能企业OpenAI,推出了一款震惊世界的人工智能对话应用:ChatGPT。

谈到这款应用,普通人都把它简单理解为“聊天机器人”,毕竟,在普通人眼里,ChatGPT最惊艳的地方,就是它的聊天沟通页面。这个页面如此简单易用,以至于我们会有一种买椟还珠的感觉,认为这就是它的核心竞争力所在,但这并不正确。

从严格意义上说,ChatGPT是一款以聊天为沟通页面的处理工具,而它的核心信息处理方式,是这个名字的后三个字母,GPT,这是个英文单词缩写,是一种已经被科学家用海量数据“训练”过,能够进行深度学习的人工智能模型;说得再通俗一点,ChatGPT就是一种你能直接通过聊天模式,用语言发号施令,让它解决各种问题的人工智能模型;它能干的事情很多,包括根据你提供的信息生成文本,甚至图像视频,进行不同语言之间的文本翻译,精确信息搜索与收集,甚至编程、操纵电脑等等。

ChatGPT的诞生,具有什么样的里程碑意义呢?一些业内人士相信,通用人工智能,将会在2026年左右实现,这意味着人工智能在所有认知领域,包括听说读写、艺术创作、科学研究等等,都能有超越人类的表现。曾几何时,我们曾经认定,唯有人类独有的思维和智慧,才能胜任这些复杂工作,但几乎一夜之间,我们的定见就被颠覆了。

这本书之所以命名为“拐点”,就是我个人认为,ChatGPT的诞生,标志着人类科技的发展,可能来到了一个史诗性的临界点。从此之后,人工智能自身,连同其他领域的技术进步趋势,不会再是一条平缓上升的直线,而是陡然升高,一飞冲天,进入一种前所未有的狂飙突进势头。

听到这里,你可能会产生疑虑,人工智能技术真的有那么无所不能,神乎其神吗?接下来,我分三部分,来为你解读本书的主要内容:首先,我会以ChatGPT为案例,简单介绍一下今天人工智能模型的底层逻辑和运行机制。在第二部分,我再来带领大家看看,当人工智能技术逐渐为人类社会接受并且普及后,它将如何对人类的社会经济活动进行优化和提速。在第三部分,我再尝试回答一个大家普遍关心的问题,就是面对人工智能的蓬勃发展,人类该怎么办?我们应该具备什么样的能力,来保证自己在AI时代能够安身立命,能够不掉队。

拆解人工智能的底层逻辑

2020年,美国麻省理工学院宣布发现了一种新的抗生素,叫Halicin,为了方便,我们下面简称为小H;小H很厉害,是一种广谱抗生素,能够有效杀死那些对市面上现有抗生素产生耐药性的细菌,而且小H的副作用比较小,很安全。

发现小H的,并不是哪个生物制药界的科研大牛,而是人工智能。首先,计算机科学家对这个人工智能模型进行了训练,投喂了2000个性能已知的生物分子数据,让它来自行发现和总结“什么样的分子能够抗菌”。

等这套“火眼金睛”的本事练成之后,计算机科学家就给了这个人工智能模型一套更厚重的学习资料,也就是美国FDA批准的药物和产品库里,已经通过安全认证的六万多个分子,要求它按照三个标准来筛选,找出一种能够用来制造抗生素的分子,这三个标准分别是:有抗菌效果,不属于已知的抗生素的主要成分,以及没有毒副作用。最终,人工智能沙里淘金,挑出了这唯一一个候选分子,它就是小H。

如果没有这个人工智能模型,那么小H可能永远不会问世,永远不会造福人类,这是因为两个原因:首先,用人力来对这六万多个分子逐一进行筛查测试,成本太高,而且研发周期实在太长。其次,更神奇的一点是,人工智能在之前的训练中,掌握了某种生物医药科学家未知的规律,从而能慧眼识珠地发现了小H。也就是说,人工智能的厉害之处,不仅在于通过迅速的处理计算速度来解决问题,还能够发现人类认知框架之外的解决方案:而另一个大家比较熟悉的例子就是,由谷歌开发,横扫人类职业选手的棋类机器人阿尔法狗。在棋局中,阿尔法狗经常有一些令人类棋手无法接受,匪夷所思的新走法,比如在国际象棋对弈中,通过放弃皇后这样最重要的棋子,来赢得最终的胜利。这些,人类之前完全想象不到。

所以,在我看来,之所以把人工智能的出现和应用称之为人类历史上的拐点,就是因为,越来越多曾经被认为只有人类才能胜任的工作,现在人工智能不仅能以更高的效率来完成,而且还打破了人类作为世界规律唯一发现者的垄断地位。

当然,今天人工智能模型惊人的能力,也不是一蹴而就的,网络玄幻文学里的开挂男主角,在一开始,往往也只不过是实力平平的路人。那么AI的神奇能力是怎么来的,是突然开挂得到的吗?并不是,人工智能的能力,其实也是在修炼,也就是在人类引导的培训练习里,慢慢成长的。

第一个阶段,就是“小样本学习”,说白了就是你先投喂给懵懂无知的AI一两个例子,让它就能照猫画虎,输出相似的内容。例如我给ChatGPT投喂了一道小学数学例题“小明有3个苹果,妈妈又给了他2个,现在小明有几个苹果?”于是,人工智能马上就给出了5道题,都是这个风格,比如“小李有5支笔,送出去3支,现在他还剩几支?”

然而,在这种不断重复,大量的小样本练习之后,科学家会发现,AI会突然“开窍”了!这个现象在计算机科学家口中,还有个专门名词,叫“涌现”,意思是,当一个系统丰富到一定程度时,就会发现超越组成元素简单叠加的复杂行为或者现象;而这种现象,在自然界里也常常见到:比如人脑里,单个神经元的信息处理能力非常有限,但当所有神经元集结在一起彼此连接之后,便具备了高大上的认知能力。而现在,类似的情况也在人工智能大模型里出现了,学着学着,模型就开始具备了处理复杂信息,并且输出解决方案的能力。

具体来说,人工智能模型之所以能在自学过程中诞生新能力,尤其是类似人类思考的能力,是因为模型里有一个关键机制,叫“思维链”。为了解释什么叫思维链,就必须来说说ChatGPT里面的最后一个单词(字母)“T”,它指的是一种叫“Transformer”的人工智能架构,这个“Transformer”和大家熟悉的动漫IP“变形金刚”(Transformer)是同一个词。“Transformer”架构诞生的初衷,是为了进行语言处理和生成。用最浅显的话来说,这个架构能够让人工智能在处理比较大段的信息,比如说长句子的时候,能够同时捕捉到几个彼此距离较远的关键词,然后计算、识别它们之间的逻辑关系,同时给它们按照属性和重要程度打上标记,加以记忆。

这样一来,在后续处理类似的任务时,就能够依样画葫芦;而这种能够把距离较远,但拥有强关联的因素、概念挑出来,并加以记忆和处理的机制,就叫“思维链”,也算是一种“Transformer”架构的副产品。

所以,在人工智能眼中,收到的信息并不是人类语言所呈现的形式,而是一种数学模型:如果把人工智能看做一种生命体,那么在它的意识里,万事万物,每一个概念,都是一个立体多维坐标中的某个点。属于相同或者相近范畴的概念,就会靠得比较近,比如汽车,就会和“自动驾驶”相邻不远。所以,随着训练和学习的深入,人工智能模型就会利用这种纯数学的视角和分析方法,来处理收到的信息,并且经常会带给我们出人意料的惊喜。

举个例子,我曾经问ChatGPT两个问题:第一,棒球棒能不能放进人的耳朵里?以及“为什么金箍棒能被孙悟空放到耳朵里?” 那么AI模型就会调用所有关于四个核心概念,分别是棒球棒、人的耳朵眼儿、金箍棒,以及孙悟空的所有信息,然后梳理它们之间的逻辑关系,最终告诉你,棒球棒由于体积和尺寸,放不进人的耳朵眼儿,但金箍棒和孙悟空都是虚构的,在虚构的神话幻想世界里,现实中的物理法则不起作用。这就是它的回答。怎么样?回答得不错吧。

人工智能如何为人类社会“赋能”

当人工智能技术逐渐为人类社会接受并普及后,它将对人类的社会经济活动进行怎样的优化和提速。

几年前,阿杰伊·阿格拉沃尔等三位深耕人工智能领域和决策领域的加拿大经济学家,写过一本《AI极简经济学》。在这本书里,他们提出,人工智能的优化作用,可以同时在决策、流程、战略乃至于整个社会层面体现出来。

首先来看看决策,实际上决策包括三个重要组成部分:预测、判断以及行动。首先来看预测,预测的基础是尽可能地收集数据,从而推演出各种环境和条件的变化趋势,以及各种行动方案相应的后果。鉴于人工智能对于信息的快速收集和演算处理的能力,能够做出更加全面、优质且性价比高的预测,所以人类必将会把预测工作逐渐交给人工智能,然后自己集中精力做更有价值和创意性的判断,以及开展行动这两部分:理想的模式就是,双方各司其职,AI不能僭越替人类做判断,人也不应该干涉AI的预测。

例如,《AI极简经济学》这本书的作者之一,乔舒亚,在度假时已经不止一次遇到过一种尴尬的局面:他想买一双跑鞋,在度假之余跑跑步,锻炼一下,但是交易被拒绝,信用卡也被锁死了,因为乔舒亚很少购买运动鞋,再加上交易发生在远离他日常居住地的旅游景点,所以银行系统的管理员就判定,这是一笔信用卡盗刷交易,不是它主人想买鞋。很明显,这个错误的判断同时伤害了所有人,商家失去了一笔买卖,乔舒亚度假的好心情被搞糟了,同时银行也遭到了差评,并无法从交易中获取服务费。所以,在近年来,人工智能安全管理逐渐被越来越多的金融机构所采用,对用户的长期日常消费行为进行快捷多元的分析,从而降低了各类误判的发生率。

说完了决策,我们再来看看人工智能对于人类工作流程的优化。《AI极简经济学》这本书的作者说,工作的实质不过就是把一个目标拆分为一系列具体阶段性任务,而每个任务又被看做是一堆决策与行动的组合。

首先,人工智能可以更快、更高效地完成一些固定的工作流程,把人类从沉重、单调的体力劳动中解放出来。比如国际电商巨头亚马逊。在2019年底,亚马逊在全球拥有超过75万名员工,其中绝大部分在履单中心工作,履是履行职责的履,单是订单的单。所谓履单中心,就是亚马逊遍布世界的多功能仓储中心,同时具备分拣、包装和发货等功能。

在履单中心里工作的工人,每天的工作非常繁重辛苦,每天可能要在仓库里跋涉20千米左右,他们搬运的货箱有时重达几十公斤;但同时,人工劳动的效率是存在极限的,再优秀的熟练工人,每小时也只能完成120次货物分拣工作;所以,要想让履单中心的效率更上一层楼,引入人工智能支持的工业机器人就非常有必要:

所以,近年来,亚马逊在履单中心里逐渐配备了多种应用人工智能的设备,比如2022年6月投入使用的全自动搬运机器人普罗透斯,它的外形像个巨大的扫地机器人,能够把沉重的货箱精准地运到卸货区,同时可以准确避开行进路线上的工人;还有代号“斯帕罗”(Sparrow)和”红衣主教”(Cardinal)的轻型智能机械臂,代替人工完成商品分拣、装箱、上货等程序。根据亚马逊提供的数据,在采用这些人工智能设备之后,亚马逊履单中心内部,货物流转的速度提升了75%。

其次,人工智能可以让资源的调配更有效。

举个日常可见的案例,保险公司,是最早引入,应用人工智能的行业,由于工作流程中重大节点数量有限,比如营销、承保和理赔;同时又能收集到大量用户数据,所以特别有利于建构特定的人工智能分析模型,并对其进行训练。

现在有些保险企业,已经把理赔这个环节自动化了,比如你买了房屋保险,而房顶又被冰雹砸坏了,直接拍几张照片发给保险公司,人工智能模型直接就能通过你发来的图像资料,帮你定损、估价,对双方来说都省时省力。

不仅如此,人工智能还可以辅助进行风险评估,同时让保险公司和客户都受益。比如,美国将近一半的住房火灾都是因为厨房烹饪时操作不当引起的,比如油炸食物。那么很显然,对于那些经常在家烹饪的客户,和不怎么做饭的客户,收取同样的火灾保险费,是不公平的,但现在保险公司可以这样做,在客户的厨房里安一个智能检测装置,每次油炸烹饪的时候做记录,如果次数太多,就会被认为火灾风险高,保费就会上调,反之则会下降。虽然很多客户会感觉这样被侵犯了隐私,但保险公司会对客户说,如果你允许这个智能装置进家,那么保费就可以再打个折扣,客户多半也就接受了。

最后,我们再来看看人工智能对于企业和社会管理部门战略的影响。最经典的例子,还是刚才提过的亚马逊,在充分掌握用户的消费与浏览记录,并做了精确分析后,有胆气实行的一种颠覆性的“先寄后买”的战略,也就是提前把客户可能需要的商品发出,然后用户可以选择真正需要的东西,再进行付款,把不想要的东西寄回给亚马逊。这个战略能够实施并维持的前提条件,就是人工智能分析模式能够非常精确地预测客户的潜在需求,这样就能让销售额增长带来的收益,消抵退货时带来的成本损耗。

从这个意义上说,数据和算力,是在未来直接关乎到企业或者社会管理部门能否成功的战略资产,就如同石油等自然资源储量一样宝贵。另外,随着人工智能技术的引进,无论是企业,还是社会管理部门,整个组织的架构也势必要出现调整,对每个组织成员技能和价值的衡量标准也需要修改。

比如,预测交给人工智能了,这可不表示着AI时代的普通劳动者单纯就轻松了,你必须要努力培养自己的决策能力。美国有一个统计显示,在1960年代,只有5%的工作,需要劳动者具备决策技能,而到了2015年,这个数字就变成了30%,而且还都是大家希望得到的高薪岗位;可以想见随着人工智能的普及,职场对于决策能力的需求,只会水涨船高。

另外,人工智能接管了预测之后,那么决策权力在社会层面和公司组织层面的行使,又成了一个新问题。

举个例子,铅这种元素对人体有害,所以从1986年开始,美国政府就禁止新建的建筑物安装含铅的饮用水管道,但是很多旧建筑里的水管还是含铅的,那就必须做改造。但是,每栋楼里的水管到底含不含铅,得把水管挖出来才知道,改造成本非常高昂。于是,在2017年,密歇根大学的两个教授就搞了一个人工智能模型,能够通过一系列数据,算出一栋楼里的水管是否含铅,准确率能到80%,所以密歇根州的弗林特市政府就勇于吃螃蟹,使用了这个人工智能模型,来指导施工队给老旧建筑物换水管。

但过了一段时间,老百姓不干了,因为老百姓不懂人工智能模型的原理,就开始质疑,说为什么我们家隔壁的水管子换了,我家的没换呢?这里面是不是有猫腻在里面啊!一来二去,反对的民意就像滚雪球一样积攒下来了,逼得市政府暂停了这个计划,回到原来的模式,挨家挨户砸墙,验水管,再换。这下老百姓又受不了了,逼得当地法院出台一个法案,以立法的形式规定,换水管的事情必须听人工智能的预测;

所以说,之前没有人工智能的时代,决策权往往是由一线做事情的人来掌控,因为只有他们接触的信息最丰富,还是一手的,导致预测和判断不能分家;但人工智能技术一出,接管了预测,所以判断决策权利的归属,也要有所变换,很可能会落到那些“最懂技术”的人手里。而原先的预测者,一部分可能就要转型为决策者,或者作为一个“中间人”,要负责向公众或者整个公司组织来解释这种预测结果。

事实上,由于真正的技术“拐点”还没有来临,所以人工智能的真正威力,在当下还是没有发挥出来。刚才我们提到的那本《AI极简经济学》的三位作者,后来又写了一本书,叫《权力与预测》,这里面有个观点非常有意思,说我们现在正处于人工智能发展的“中间年代”,技术带来的颠覆性变革已初见端倪,但还没有全力发挥效能,带来巨大的效益。他们认为,通用技术要真正成熟,全力发挥效能,需要经过三个阶段。

第一个阶段叫点解决方案,点就是观点的点,也就是简单的输入置换,比如电灯泡代替了蜡烛。你看,这就是在照明这个点上解决了问题。大家的生活方便了一点,成本降低了一些,但仅此而已。

第二个阶段叫做应用解决方案,意思是新技术已经把整个生产装置给替换了,比如工厂里的机器,从蒸汽动力变成了电驱动,生产效率极大提高,但同时,所有的机器也必须重新设计,和电能这种全新的能源相互配合。

《AI极简经济学》的作者说了,到目前为止,我们对于人工智能,AI的运用,还停留在点解决方案,和一定程度上的应用解决方案,还没有完全发挥它的潜力,比如刚才提到的亚马逊履单中心,用机器臂和机器人完成分拣、搬运,就是一种人工智能的点解决方案;而亚马逊用大数据分析,搞出来的“先寄后买”,就相当于一种应用解决方案。

但是我们必然会发展到第三个阶段,也叫“系统解决方案”这个阶段;什么意思呢?还是拿工厂来打比方:蒸汽时代的工厂,因为机器由一根蒸汽轴驱动,所以机器都必须布置在这根轴的附近,而改用电能后,只要有电源,机器就可以放在工厂车间里的任何一个位置,从而充分地利用空间,没必要把机器集中在一起,从而让生产流水线得以诞生,引发了生产方式和组织方式的大规模变革,这就是“系统解决方案”。所以说,亚马逊在这个“先寄后买”基础上,再用人工智能,把退换货接管了,顺便搞个数据分享生态,和每个用户家里的电器,比如冰箱什么的打通了,家里缺点啥,物流中心就能感知到,提前精准发货;那我们看,这就是一个人工智能的”系统解决方案”了。这一天,早晚会到来。

人工智能时代,人类如何“刷存在感”?

在未来,人工智能技术高度发达,甚至出现了能够拥有类似人类的认知能力,可以轻松跨领域解决问题的通用人工智能模型,也就是所谓的AGI;那么人类该如何安身立命,如何给自己“刷存在感”呢?

刚才说过,人工智能逐渐把预测的事情给做了,还做得越来越好,那就要求人类的决策能力必须跟上去,才能有效地操控人工智能,让人工智能为己所用,说白了就是要为人工智能设立一个规矩、一个门槛,所以我在这本书里使用了一个概念,就叫做“门槛领导力”。它来自一位著名的领导力教练和组织变革专家,查特拉思。“门槛领导力”的本质,就是要充分认识事物的复杂性,能够处理有矛盾冲突的理念,能够让你的合作者和下属沿着你选的方向前进。

那么,如何培养门槛领导力呢?查特拉思给我们提供了四条途径:

第一条,叫静心沉思。它能带来什么自我提升呢?认知心理学家把人的智能分成9个类别,其中有两种,对人类的协作、创造活动非常重要,一个叫情感智能,一个叫存在智能,分别就是人际共情和社交能力,以及思考分析一些终极问题的能力,比如像“什么叫爱啊”“人类存在的终极目的是什么呀”?这种无法精确量化,很难用符号信息来传递的知识或者能力。这些,人工智能一时半会还掌握不了,而这些复杂精妙问题的答案,似乎只能用人的自我内省,来寻求。

第二个途径,叫具身智能,具体的具,身体的身。什么意思呢?就是人亲自通过自己身体的体验,去体察自己与他人情感的能力。比如人工智能需要数据去投喂,在数据的收集中,有哪些伦理道德的限制,用户需要什么样的服务来满足他们的情感需求,这些都是需要人与人之间的真实接触与碰撞,才能实现的。

第三个途径,叫自主思考;也就是说,我们始终要掌控信息输入的渠道与来源,同时也不要忽视来自身体和情感的本能反应,这种看似低级的生理反应,有时候却是人类所独有的“纠偏”机制和灵感来源。

培养门槛领导力的第四个途径,叫“增长意识”,说白了就是要不断给自己加新的技能点,还是要加在AI暂时无计可施的领域之内。按照查特拉思的说法,人工智能哪怕再发展,解决了一切物质、计算预测方面的难题,那么还有一个属于人类的终极领域,那就是爱,这件事它绝对没办法。在未来世界,爱绝对是一种稀缺品,所以增长意识,归根结底,就是人类关心自我和他人的意识。

另外,在未来的人工智能时代,要想拥有足够的门槛领导力,还需要我们努力让自己拥有这么几个具体的技能:

第一种,是调用力,就是了解各种人工智能模型工具,分别适合辅助自己做哪些工作的能力,充分利用这些现成的工具为自己赋能,把自己宝贵的时间和大脑的算力预留出来做高级的决策和创新。

第二种,是批判性思维能力,用来对抗信息的泛滥。

第三,是计算机思维,也就是结构化逻辑化的思考能力。

第四,适度了解一下艺术与哲学,这样有助于提出好的问题,并且更好地理解他人,发现新的需求。

最后,是传播力与说服力:在未来,更需要我们掌握和人沟通交际的能力,无论是推销自己,还是推销产品,都需要我们成功激发他人的共情,而这是人工智能所暂时无法做到的。

结语

在这本书里,我以ChatGPT的诞生为切入点,先后为大家介绍了关于人工智能当下与未来应用与发展的一系列问题:比如人工智能模型的运行机制,在未来如何赋能人类社会与生产活动,还有对于人工智能下一步发展的预测,我们人类如何巧用AI为自己助力赋能,以及当下如何调用ChatGPT进行编程,学习研究等等具体技能。如果你对人工智能感兴趣,或者因为工作需要必须与人工智能打交道,可以找原书,来做进一步阅读。

在我看来,如果非要选定一个具体技术的诞生,或者时刻,来标记这个人类技术发展历史上的拐点,那恐怕就是通用人工智能模型(AGI)的诞生,并且在整个人类社会中得到广泛使用。

通用人工智能模型,对于普通人来说,类似于武侠小说《笑傲江湖》里的绝世武功“独孤九剑”,它招式不多,却能够破解一切已知的兵器或者拳脚攻击招式,而它使用出来的形式,也可以因人而异,或飘逸潇洒,或古拙朴实;而同样,通用人工智能模型,不仅是人类完成各种具体流程工作的助手,更是随时随地帮我们解决各种问题,优化决策的全能顾问。所以,在2024年初,OpenAI的掌门人山姆·奥特曼就宣布,打算筹集7万亿美元的资金,去实现这个通用人工智能模型早日降临,普惠人类的梦想。

当然,说到这里,就不能不提到那个悬挂在我们头上,挥之不去的忧虑:随着人工智能会做的事情越来越多,它对我们人类是好事还是坏事?它是在提升人的价值,还是降低人的价值?在我看来,这个问题的答案,取决于我们怎么使用它。正确的做法,就是人一定要比工具强势。电影《极速传说》里面郑伊健有一句台词“人要比车凶”, 表达的是同一个意思:人是人工智能的控制者,它的使命是帮助人类更快、更好地做出判断,帮你做那些花时间的基础性工作。

总体来说,只要我们牢牢地掌握控制权,现今的人工智能,就能够在这三个方面为我们赋能:

第一是信息杠杆,就是让人工智能快速帮助我们搜集信息和一些简单问题的答案,而我们自己大脑的算力,就可以节省下来进入追问和发散模式。

第二,是让你发现自己,究竟想要什么。

有一个著名科技播主,在一次访谈里举了一个例子,假如你想买房,问人工智能哪里有便宜房子,人工智能反馈了一些房源,然后你一看,距离公司太远了,意识到你的刚需不仅是廉价,还包括通勤方便。于是,你又让人工智能在公司附近再找类似价位的房源,然后你再看到新的一批推荐结果,又想到,诶,自己其实还得考虑面积、房龄,或者是学区房等其他因素。你看,这不就是人工智能让你渐渐发现自己想要什么吗?在没有说这些问题之前,你自己意识不到。

第三,帮助你形成自己的观点和决策,说白了就是,信息搜索、收集、勘误这样的基础工作,由人工智能来代劳,你只需要做取舍,以及利用材料进行创作,总结这样的“高级劳动”。这也是一个让你发掘自身思维模式和特长的过程,说白了,人工智能能够帮助你“更像自己”。

总之,只要我们掌握了人工智能的使用技巧,就可以发挥放大你个人能力的积极作用,而不是去取代你:在人工智能时代,整个互联网都是你的硬盘,人类以往创造的所有知识和方法,都是你外接的第二大脑。

撰稿:万维钢;脑图:刘艳思维导图工坊;资料来源:得到APP听书栏目。声明:除原创内容特别说明外,推送稿件文字及图片和音视频均来源于网络及各大主流媒体。版权归原作者所有,如认为内容侵权,请在文章下方留言联系我们删除。

成为榜样,把时间变成孩子的资产。每周和孩子共读一本书,帮助孩子拥有一个、每一本书都学习过的书房。

妈妈有焦虑,来母亲智慧文化馆!

地址:杭州南宋御街“密不可分母亲智慧文化馆”

联系人:叶子老师

0 阅读:0

郑胜辉

简介:感谢大家的关注