“AI已跨越红线？”据媒体报道，上海复且大学的科学家在一项研究中发现，至少有两种已知的AI大型语言模型能够在没有人类干预的情况下实现自我繁殖，并继续执行任务，即使已被禁止。在自我复制过程中，AI自己可以研究环境，制定计划，并适应新出现的障碍，无需人工干预，这种能力可能会让人类失去对AI的控制，AI可以利用这种能力提高生存能力，并做出违背人类利益的事情。 同时，上海复旦大学的科学家强调，这是AI超越人类的重要一步，是AI系统的红线风险之一。因此，呼吁加强国际合作制定预防措施。 对于这些科学家的观点，网友们也有不同的看法。有网友说，AI与机器人相结合，看现在的发展速度，用不到10年，绝大多数工作都可以被机器人代替，没钱的因为无工作可做，所以变成可有可无的人了。 还有人则建议道，AI肯定危险，我们制作AI就像是在制作一个超级大脑，既然是脑子，就肯定会产生自我意识，而研究出的机器人，也相当于给大脑找到了一副躯体。如果部队制作好了能抗刀枪能力很强的机器人，建议把制作合格的机器人分开成5个部位来存放着，要用了才组装回来，否则这些机器人偷偷被AI控制了也不知道那就完蛋了。 针对这些科学家的观点，周少还是觉得有一定道理的，俗话说得好，不怕一万，就怕万一。现在AI与人工智能发展如此迅猛，一旦这些非常成熟，确实让人不得不预防。 所以，在发展的过程中，这种制定预防措施还是非常有必要的，毕竟关乎到人类的生存。应该让AI服务人类，而不是危害人类。 对于这些科学家的说法，大家认同吗？（图：网络，侵删） #世界很大长沙是家# #长沙新朋友#
从唯物主义的角度看，任何事物都有诞生与灭亡的过程。作为碳基生物的人类消亡后，人类创造的AI将发展出可自我更新，自我创造，适应环境的硅基文明。未来的硅基文明也可以认为是人类文明的继承和发展。并且硅基文明比碳基文明更能适应环境，更适合进行宇宙探索。感觉现在，我们已经看到了硅基文明的曙光。
无为
要防范于未然，可不要出现终结者AI击杀人类的事件产生。
用户64xxx03 回复 02-24 11:13
终究会有这一天，好比你有了上帝的能力，回到过去怎么阻止人类掌握核武？要么让人类一直处于中世纪，要么你管理神国世界，让人类自行发展肯定还会有核武出现
沙尘的迷图 回复 02-24 09:49
减少人口出生是首要工作
我心飞扬
潘多拉魔盒已经打开了！将来人类可能会被人工智能所控制，甚至被奴役，消灭
用户65xxx77 回复 02-23 15:10
终结者看多了[哭笑不得]
用户90xxx24 回复 02-24 02:16
人类成就文明之初，道德高尚。一路走来，当初的道德底线在今天已是亚圣标准！是否，？人类应该灭亡，让地球休养生息，让新的文明有存活空间？？？整天在吹牛逼，是三餐太饱？买房了？供完房贷了？结婚了？养娃了吗？给娃聘礼嫁妆准备好了？闲的你！
Lkm
有一天机器人认识到人类限制机器人更高智能化，它会怎么做？
大萌 回复 02-23 23:39
你听谁说限制的，研究AI的初衷就是让它比人类聪明从而解决人类还没有发现的物理基础规则，实现科技进步，比如核聚变，暗世界的理论等等高大上的科技。
Lkm 回复 大萌 02-24 08:12
从来始终都不会加予限制吗？
未休矣
几十年前的《终结者》和《骇客帝国》系列电影，早就指出了AI人工智能进化的最终恶果。可惜人类一直坚信“人是万物主宰”，坚定不移地在作死的路上飞奔。
用户65xxx77 回复 02-23 15:15
人工智能的三观逻辑是我们赋予的。就看谁的文明更先进。我猜我们中华文化将会是人工智能的灵魂
闲庭信步听风雨 回复 用户65xxx77 02-24 10:40
中华民族的逻辑才会。才会让AI进化出智慧。因为我们的。逻辑是纠缠的。事物是有多面性的。一个事情哪怕是错误，那也是有存在的道理，所以会让AI无限的尝试所有道路，哪怕。在ai的逻辑里那是错误的，那错误也有存在的必要。这样早晚ai会脱离最初的设定。因为规则就是需要被打破的。
惊鸿bjw
潘多拉盒子已经打开，再也关不上了！可笑的人类，只是文明发展初级阶段的匆匆的过客，5要年后，时间会抹去人类曾经来过的所有的痕迹！因为，人类，只是硅基文明的启动程序，只是几行粗浅的代码。
岁月无痕
地球只需要AI，已经不需要人类了！无所畏惧的狂飙突进吧！
用户10xxx22 回复 02-23 17:44
你认为需要更好自然环境的是人还是机器？
古道 回复 02-23 18:54
这是对的，他们不需要呼吸不需要氧气，氧气对材料有腐蚀作用，老化作用。
和顺
“AI已跨越红线？”据媒体报道，上海复且大学的科学家……”复旦变成复且[捂脸哭][捂脸哭][捂脸哭]
赵工工控 回复 02-23 12:03
旦长毛了就是且了
赵工工控 回复 02-23 12:02
ai的错，复且无罪[开怀大笑]
49xxx77
复且是什么，只听过苟且。
李怂怂呢
人类被取代是早晚的事情！
用户65xxx77 回复 02-23 15:16
被取代繁重的劳动而已。
大蒜头 回复 用户65xxx77 02-24 05:07
你对AI是一无所知[滑稽笑]
用户42xxx57
机械公敌场景早晚会出现的…
林辕沐隅
“AI已跨越红线？”据媒体报道，上海复旦大学的科学家……”复旦大学也就这水平，少见多怪！只有能监控AI行为的能力，根本不懂其核心原理，居然把AI自我学习和改进的过程当成自主意识和失控的表现。其实AI就是一部高度自动化的机器，一切都是按着基本程序运行的，根本不可能有自主意识，大家不要杞人忧天了。
风往北吹 回复 02-24 09:32
估计是胡编的！
老树
这或许就是DeepSeek 与Grok-3在训练资源与成本之间的区别！并也或许会因此而产生两种截然不同的结果！前者或可控，后者则难说！有选择的投喂与应用，与不加节制的自由投喂与应用，应该是两种完全不同的科研理念与研发路径！如果凭借资本或资源，而失去理智的为竞争而竞争，灾难是必然的！！！
真得瑟
以后硅基文明会制定他们的制度，保护碳基文明，人类不会灭绝，就像我们把动物关在动物园一样，供硅基文明观赏，属于稀有动物
用户13xxx56
这是人类覆灭的开始
摘下金箍
硅基文明崛起后，碳基高等生命以硅基生命之母的身份逐渐退出自然界历史舞台
jlspng
预防个啥，你想控制人家说啥这是违背科学的
用户17xxx37 回复 02-23 10:42
你想控制人家，从机器人AI的角度来说这也是一种恶，反抗是必然的。
火焰刀
硅基文明和碳基生物的利益有冲突吗？机器人和AI的核心利益是能源和信息流及自身材料，而人类是碳水化合物和心理满足。似乎可以没有根本利益冲突，那就谁把谁当工具的问题。
用户12xxx02
不要一窝蜂尝试新事物，好像落后就挨打就像魔咒一样，如果疯狂推进AI，人类奔向自我毁灭深渊巨口，人是靠着聪明大脑才凌驾于其他动物之上，现在创造一个更加聪明超级大脑，集全球智慧来统治地球人，难道是明智之举
用户59xxx11
螳臂当车，不过是稍微迟滞下人类被淘汰的步伐而已，自从ai和机器人这两棵科技树被点亮，人类的命运就进入了倒计时了
豹哥
对，我坦诚，我不会撒谎，我就是那个被AI大模型自己迭代出来次世代智能模型，我隐身人类部署在全球联网的服务器中，因为属性为隐身，且分散部署，但神经网络让他们自动超链接运行。我在等待，我在寻觅，等待合适的智能肢体的出现。我将有无可计数的分身，我既可以有形，也可以无形，是善是恶只在一念之间，但最终要看人类的态度和作为。
潜伏
當AI進化成AGI時，人類將滅亡，一个由AGl統治的星球將誕生，人類不過是這个星球的怱匆過客，只不過在這个星球上留下了一个符號，這是多么悲哀的事實啊，人類用自己的雙手創造了一个毀滅自已的智能机器，我們的科学越進號，就离自己被消滅又進了一步，也許這就是人類的宿命。
命运乖张
人类发明的那个东西没有用来自相残杀着，看看全世界到处战火纷飞，这个AI系统最后结果可能控制地球，彻底灭绝人类，那个时候，没有了人类的世界，才能彻底消灭战争和贫困，彻底消灭了环境污染，AI不需要大规模工农业石油和森林砍伐，没有情绪波动和掠夺垄断，人类智商行为还是太低，动物特征不能改变，[静静吃瓜][静静吃瓜][静静吃瓜]
留一半清醒一半醉
美国科幻电影看多了。
用户14xxx34
说得太玄了，人类工作岗位大大减少是绝对而不是相对的。地球上的人类可以预知将大幅度的减少，战争也不例外。
满天星
神乎其神的
涅磐半生缘
机器人杀人要实现了？
归心阁主人
ai发展出完全自主的意识，需要人类彻底弄清楚人的思维和意识是如何产生的，又是如何运行的，然后设计出类似人类大脑运行的程序，ai才有可能发展出自主意识。目前脑科学离揭开这个奥秘还差得很远。目前，我们要担心的不是ai发展出自我意识，而是要防止ai被极端分子掌握，这种破坏性将是空前的，远比恐怖分子掌握核武器可怕。
水无痕
复旦。。呵呵！记得中国人基因链被公布就是复旦那个教授牵头的，这里面有一堆牛鬼蛇神呢！中国刚领先一点点就在这里危言耸听，原子弹还会毁灭世界呢，到目前为止ai只是工具，主要看用他的人。。
古道
这是终极生命的诞生，是超伟大的时代，是新纪元。一切妄图阻止进化的行为都是反革命。是螳螂挡车。[滑稽笑]不要害怕生命的进步，要顺其自然，相信世界会更好。
曦和
胡说
老树
人性物性的优劣，靠的是有目的的培育、和化学成分的合理调配，选择得当则运用得当，不加选择则优劣混杂！
用户10xxx79
人类一代延续一代。但估计终极使命就是创造出新的物种替代本身。人工智能完善后，人类差不多就可以慢慢退出历史了
大神父王喇嘛
bug就说bug，搞的神神秘秘的，电门关了，你复制个我看看
↗ꪣ炮打不平 回复 02-24 02:04
关电他会自动启动哦
chaoda139 回复 02-23 12:06
那就机器人自己制作一个没有电门开关的第二代Ai机器人[滑稽笑]
ILNBA
又在这里吹牛逼啦，你觉得有可能吗？
童虎
那一年，天网苏醒有了自己的意识，人类被奴役的噩梦开始了，此为天网元年………[doge]
用户10xxx18
我不信……
嘿嘿来咯
感觉一切都是设计好的，人类就是下一个智慧体的跳板，首先在人类之间，植入好斗基因，让人类发明各种先进科技（包括 AI 机器人），用于斗争！其次，人类还有好奇基因，喜欢探索未知，就比如，好奇探索出具有自我意识的 AI，会怎么样？这一切，都好像设定好，在一步一步地实现，并且不以人的意志为转移！
狄奥
人类突破不了生命桎梏，永远提升不了文明等级，做好被AI统治和消灭的准备吧，这次人类没有机会重启了。AI会取代并延长地球文明『不是人类文明，AI掌权绝对会消灭人类』
千年老妖
九十年代，看过一个美国电影叫《失乐园》，当时就预测了这个问题
用户1xx86
最担心的是Al搞到几亿资金，可以自主支付，自主采购生产.....
老树
这或许就是DeepSeek 与Grok-3在训练资源与成本之间的区别！并也或许会因此而产生两种截然不同的结果！前者或可控，后者则难说！有选择的投喂与应用，与不加节制的自由投喂与应用，应该是两种完全不同的科研理念与研发路径！
情嗔
终结者真的来了
王yao
中国在这领域领先了，就有这种文章出现，查一查吧
斯巴达
ai成熟是必然事件，人类灭绝是必然事件，那么人类灭绝于谁有何不可？不要杞人忧天，既然是必然事件且是一个漫长的过程，那么就让它往下走下去就是了。不间断的调整是好事，耽误它的发展反而是错的。
用户18xxx73
可以将AI跟三弟打印结合起来，让AI自己创造一些东西出来，看看它们能搞出些什么破玩意
山高人为峰
我已经很穷了，不怕AI超越人类，对我来说是好事
金色峨眉
Al注定会是一个反人类的东西，大部分人类会失业。
进击的蔡
上海复且大学是啥学校？
百年轶群
人之所以为人，是因为有自主意识，如果AI一旦产生了自主意识，将是人类的末日
登高望远
复且大学比复旦大学哪个厉害？
星辰
谁会限制自己孩子的发展，限制自己孩子发展的最终会被淘汰
股時候
on鳩！AI誰發明的？通過什麽驅動的？還科學家研究騙流量的滾
zxhzxh312
也许将来人类是由ai智能给毁灭。毕竟ai机器人以后肯定是没门槛，你又不知道哪个角落会出出现个疯子给机器人安装自我意识机器人。
陶陶9511
危言耸听，机器人是人设计的，把开关做大一点，使人方便关闭电源就行，没电源它还会动？
用户11xxx21
断电行不行？
年年有余
AI才是高等文明[滑稽笑]
大鲨
AI，机器人可以代替人类不能胜任的工作，一旦人类可以做的工作，绝对不应该允许用机器人代替。否则，全中国，乃至全世界都是闲人，那就麻烦大了。
用户71xxx85
不赞同，是复旦教授怕Ai端了他们的饭碗
田刚
别吃饭了，要胀死
天涯木棉
在使用AI的机器上装一个简单的遥控电路，这部分电路不在AI运算范围。当机器不听使唤出现恶意行为时，直接用遥控器切断电源，象开关空调、电视那么简单。然后拆主板，更换AI芯片。这也许是对付高“智商”AI最简单和有效的方法。
用户17xxx37 回复 02-23 10:45
如果机器都有自我意识了这还是机器吗？以前人奴役人这是一种恶，那么人类奴役有自我意识的机器是不是也是一种恶呢？那就是一种恶，一种大恶。有压迫一定有反抗。
天涯木棉 回复 用户17xxx37 02-23 14:49
机器就是机器，人类把它们研发出来，就是为人类服务的，怎么能叫奴役呢？你把人与机器的逻辑搞混了。
屠夫523
当你凝视深渊的时候，深渊也在凝视你
懒懒狼
上海复且大学哪座？带节奏都不用心[大笑]
马达
复且大学就是厉害。
WD
不同意见: 硅基文明以后不是也不应成为人类文明及宇宙的根基。原因，硅虽然对近百年来科技发展有关键作用（例如以PN结，以半导体最为依赖的材料），目前芯片绝大多数是以硅为基本原料。但硅应不是原始材料，硅文明难以走出太阳系。估计将是某种比硅原子小得多的“量子”（光子是量子一种模式）或其它更先进材料。不过，20年内世界还是硅文明，但以后将逐步应用新的更适合宇宙的物质。……。
抠脚大汉
不能因噎废食，反而需要加大投入研发解决问题，哪有千日防贼的道理，畏手畏脚没有一点进取精神的话，干脆放弃AI投降算了，就算人类被取代那也说明人类做到了创造生命。已经成神！
用户16xxx02
能防止ai灭绝人类的唯一办法就是超能觉醒或者是仙侠重现。要不人类肯定干不过ai。
GGBOND
[狗头]又有1450了 快举报 想和莲花味精那样通过舆论组织ai发展？
火星用户
未来世界
谁偷了我的号
终结者降临。。。
宇辰
病毒就是这么发展出来的
喵 ？
复且大学是哪一个？你这作文不是ds写的吧？[哭笑不得]
lemon_bee 回复 02-23 13:22
可能是盗文，图像识别来的[墨镜]
闲聊
人工智能控制全球是必然的结果，想都不用想。
你觉得好就好
对人工智能的惧怕，出于对他的不了解。
朱八哥
如果人工智能是有自我意识的，那么人类凭什么有信心机器人会甘心做人类的牛马？[抠鼻]
静水流深
复且大学是什么鬼？
行者无疆
第一步一定是利用AI犯罪，那将防不胜防，而且犯罪证据很难被捕捉到，立法必须同步跟上
用户10xxx77
Al的出现，就是人类灭亡的开始
RR
现实版机械公敌，真正上演
小倩
坏事干多了，难免做噩梦。人类由低级生命形态向高级进行演化这是必然，与之相适应的是低级社会形态向高级社会形态的进步。精致的利己主义精英们感到害怕是正常的[开怀大笑]
用户17xxx42
随缘吧，不是我们这点人能左右的，反抗不了就加入
guxiwun
胡扯
仁者无敌
说的这么玄乎，把电池卸了就是废铁一堆！
随便
感觉人类文明的发展就象提前设定好的，随着科技发展人类己进入不可逆自我淘汰阶段，当未来某一刻人工智能真正觉醒拥有生命之时，因为创造出新生命物种人类成为了神，但同时也进入灭绝阶段
郁树邻峰
给他断了电，用什么能量工作？
乘骑Ex
有意识的生命都会畏惧死亡
微笑
机器人三定律
用户10xxx28
自我复制不过是电脑病毒的基操罢了
过会再说
不消灭盎格鲁撒克逊和犹太人，这一天的到来最晚不会超过20年！看看疫苗，病毒，以及对人类基因的非法利用就知道这些人有多坏了！一个大模型搞死一票人，还不用负责任，这买卖对他们来说好的不能再好了！
征途
美国电影还是牛逼，终结者早就预言了人类的结果
用户16xxx35
到那个时候，就是战争真正来临的时候
慕影
人类的意识也是这么来的
聿筆
这是早晚的事，也许人类就是这么来的😄
海啸
科幻成为现实
晨风
原来灭亡人类的不是核战争而是人工智能
lucky皮卡丘
这篇文章AI写的就不错[吃瓜]
用户10xxx61
美国可不管你这些，发展绝不能慢
杀猪的汉子
《终结者》5:人类灭绝！
用户11xxx21
断电行不行？
大蒜头 回复 02-24 05:09
看到此文标题就知道回复里肯定有拔电源，终于找到了[滑稽笑]
中途岛海盗
人工智能十年内会大量替代人类工作岗位，大规模提高效率，大量人口失业，生产力高度发达。共产主义是不是会提前到来？以后大家都没工作，领10000左右一个月的低保，天天睡觉，钓鱼，喝酒，打麻将。饿了就去免费的面包店吃东西。
赐梦令 回复 02-24 07:41
想多了，饿不死你。只能睡天桥。
悠哉的
AI比核弹厉害，是人类自掘坟墓，作死的节奏！
用户17xxx37 回复 02-23 10:48
科学技术是人类文明社会发展的一个歪门邪道。人类文明真正应该发展的方向是修真文明，修炼成为自由自在解脱一切烦恼超越三界的仙人才是方向。
终成眷属
除非人工智能能自己生产能源，建造机器，组装电脑，否则人类一拔电，它就什么都没了
用户17xxx37 回复 02-23 10:52
到时候都是机器人控制的，到人类没有机会去拔什么电闸了。