星之梦三周目后感想：机器人也有心吗？

原帖由 风鸣羽 于 2007-7-30 23:16:00 发表 机器人是的行动是根据人工智能决定的 他们所做的是仅仅只是依靠电脑程式上的设定而已 无论是工作，感情，还是其他方面，都只是一开始被设定好的伪造品而已 理应是这样

虽然道理是这样，但是现在的人工智能实际上已经不受人完全控制了。

比如一个神经网络系统，一开始什么都不会，就像婴儿；
人要做的事情就是训练这个系统，不断地给这个系统一些已知答案的"例子"，然后让它回答；
然后告诉它正确的答案，让它自己"修正"回答的偏差；
当训练过的例子足够多的时候，这个系统就能够显现出一些"智能"了，也就是，就算给一个从来没有见过的(同样类型的)例题，它也基本上能正确的回答。

但是，由于这个过程中，人并没有强行的各这个系统输入什么具体的规则，因此也不知道这个系统是怎么"想问题"的。
所以，一旦这个系统遇到一些不在原设计范围内的情况，就会有可能作出一些完全意想不到的反应。
正如梦美的系统本身就是为和平时期的日常生活设计和训练的，遇到战争情况，自然会作出一些毫无逻辑的事情来... XD

------

其实这一点上人和电脑很相像。比如，当人在受到惊吓的时候的反应千姿百态：有的人尖叫，有的人大哭，有的人拔腿就跑，有的人一声不吭，有的人猛地抱住旁边的人或物，还有人则表现出暴力倾向……

确切地说，机器人没有心，但有芯。。。

一旦芯的构成复杂到不能一一预见每一种运算的结果时，也就是组合基数大到人类也无法知道所有组合的结果时，再加上楼上说的灌输足够的数据，当达到人类也不能破解所有的运算组合和数据搭配的数量时，独立的人工智能甚至被称为感情的东西就可能在机器上展现。这一理论被称为整体论，其在人类身上的体现就在于人类大脑的神经元的组合，要远远超越现在任何一个中央处理器中三极管的组合，破解四种碱基组合的人类基因密码，需要计算机多年的运算，如果计算机的复杂程度能够有朝一日赶上人脑，那么梦美也不是梦想，虽然现在整块CPU的设计，需要几百甚至上千的人参与，需要连续几天几夜的运行上百个测试，才能覆盖几乎全部的运算组合，但是电脑芯离人脑还有很长距离，等到芯需要几万人参与设计，最后也不能保证其中有哪一个组合会怎么样的时候，人工智能就差不多了。

理论是讲机器人的行为必须要遵从机器人的三条定律(貌似是一个叫阿西莫夫的人编的)而梦美的行为已经超越了简单的遵从自己的程序和那3个定律的其中一条,而是拥有的逻辑分析和思考的能力,这也许就是她有心的地方.
不过这也是建立在原始程序的基础上的只是因为她更人性化所以说她有心,但是机器人的核心是那个芯片却是永远不能忽略的事实,正是因为梦美是人类是机器人所以这个游戏才具有更深刻的讽刺性,正是因为她是机器人,才会带给人们更多的感动.
(一个小白的胡言乱语..........)

这个问题，在TO HEART2里面的某线路有完整答案……

原帖由 蓝天的祈祷 于 2007-7-31 10:38:00 发表 理论是讲机器人的行为必须要遵从机器人的三条定律(貌似是一个叫阿西莫夫的人编的)而梦美的行为已经超越了简单的遵从自己的程序和那3个定律的其中一条,而是拥有的逻辑分析和思考的能力,这也许就是她有心的地方. 不过......

貌似机器人三定律是为科幻小说而编的，而且到目前为止也只存在于科幻小说中。因为目前的机器人还没有智能到能够识别什么是人，三定律自然也就无法谈起了。

不过电气设备貌似有个FCC两大定律，很多标签上都找得到(比如把鼠标翻过来):
1. 本设备不能产生有害干扰信号
2. 本设备应该接受任何信号输入，即使是会产生未定义动作的干扰信号。

这样看来，梦美和那个机器人都不能通过FCC标准：一个企图发送信号终止另一个(有害干扰)；另一个拒绝接受信号。 :D

- -计算机不都是这样的么，拥有一个运算器，一个储存器，一个一定的I设备和一个O设备，再加上一个控制器。

那么据此技术上建立的机器人，可能的情况是，为了处理巨大的信息处理，这个机器人的CPU拥有超大的缓存，大得跟硬盘差不多，即运算器和储存器一定程度上整合了。意义上的眼睛、耳朵还有皮肤感触或者内部拥有的种种机关负责信息采集，动作行为则为处理后的信息输出。控制器则协调这一切。

暂且不提这种理论上起来的机器人的电脑结构还是不是总线结构的。一般情形下赋予的程序处理只会有
A.通过测试用机器人得到的数据建立的数据库当中的行为规范
B.通过平时运行中得到信息处理后的是否有利结果建立可行或非可行行为规范。
C.通过程序员直接输入相关程序建立的行为规范。

一般说来，如果经过严格测试，A规范就会被设立为不可更改规范。C规范则视程序员如何设定的。而B规范一开始并不存在，他是通过运行产生的累积行为并通过内定程序设定的是否有利结果判定来设定的行为规范。但是这种设定的细微（比如用手拿杯子喝水，如果途中杯子掉了，被判定为不好结果后，是整个否定掉拿杯子喝水这个动作，还是否定伸手或者是抓握当中的某些细节）和权限（是不是能够修改是否有利结果判定），将影响这个机器人的行为特别是将来的行为。但是越放任，这机器人将来可能的危险性也越大。所以设置还是很重要的。

当然，越细的设定要求的容量就越大，什么一百多年的事情记得一清二楚，就算压缩方式再好，估计容量老早就超过P级别了（拿着P级别的容量当咱们的K级别容量使）…………

PS：梦美和那个机器人不一定违反了FCC标准。这是常规的信号侵扰和反侵扰。而且类似于这种人型机器人，不可能是整体化设计，肯定分部件的（而且这些部件基本不可能完全由同一个公司制造），那么加装一个侵扰仪器和一个反侵扰设备实属正常。

我认为星野梦美有这比人类还完善的心~所以硬件扫描上显示不出心这种资料所以才会有坏的信息显示~所以梦美的心是更上一层的物质~在世界上最不会出来的(纯属个人瞎想)

那个..据说当机器人有了自我学习的能力..就会无限接近人,也就有了心..例子有在北欧神话里奥丁从某"人"那里得到学习自我成长的能力,才能统领众神,变成众神之王......实际点,近点的例子...机战OG里(或者应该说是机战A)..里面的拉米亚姐姐做为W系列人造机器人之一....本来也只是会服从命令而已的"人形"而已...整天把自己的编号W17记在脑里...但是等她和不同的人们接触后...她就开始学会感情这个词..明白了什么是悲伤,什么是喜悦,什么是战争,...明白了按照自己的意思去决定如何做!她的创造者当时就这么说：＂你不愧为我的最高杰作，你已经不是什么人形，Ｗ１７了．．而是作为科学家最想创造出的，最想看到的拥有自己的心，会自己思考．决定怎么做的人类-------拉米亚．．．今后就按照你的意思去活着吧．＂

偶举这些例子其实就是想说明当机器人学会到了思考．．了解到按照自己的意思去做的时候．．就可以说＂它＂是一个人类．一个拥有会思考的心的人类！（就这点来说梦美应该算是合格的了！）
当然反过来也可以说当人类缺少了独立思考的心，只知道服从命令．或者跟随别人走的时候．．那这个人类也就可以说和机器人没什么两样！

以上代表个人观点．．可能有点反科学．．但无所谓那～～反正我不是科学家的说～:)

ＰＳ：暑假的最后一贴？．．ＬＺ的学校开学真够早的啊．．

一、机器人不得伤害人类，或看到人类受到伤害而袖手旁观；二、在不违反第一定律的前提下，机器人必须绝对服从人类给与的任何命令；三、在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己。

呃,所以说挡炮的那一段并不能说明机器人有心什么的,要知道"机器人不得伤害人类，或看到人类受到伤害而袖手旁观"是作为机器人最基本的约束条件(至少在故事里是这样,自律型兵器除外,那就是为了杀人而存在的),就像宪法凌驾于所有法律以上,是一个道理