话题提出者：未知球星
为什么说危险，其实，电信涉及通信，信息保密就是一个挑战，很多地方用 two factor，电话号码就可以是其中一个，系统发回的code可能被盗取，国内我不知道，但chatGPT 实际上就像网络爬虫一样不停地毫不疲倦地收集所有的信息，使用它chatGPT 会涉及个人登录，个人信息实际会被获得截取，比如你在网上通过电脑登录银行等。。。因为个人的电脑不可能不断更换，你的网卡地址也就不变，像国外都是Windows os，最近的蓝屏事件已经向全世界证明了微软的全面监控行为，结合操作系统的助力，所以你的电话号码就可以锁定你，海外已经报道这样的新闻，就是一个电话就导致了损失几万块，，，，
另外关于chatgpt的侵权事件，也有很多新闻和已经开展的调查，比如纽约时报著作权被侵权事件。这都证明了chatgpt 不择手段地获得他人他企业等的信息， 得到信息后，经过各种算法权重分类甚至IP跟踪全放进喂给chatGPT的信息中。(在世界政局中，各种监听的信息同样是chatGPT的养料)，因为现在，AI 智能被给的权限可以根据需要不同而不同.所以说，制造业的订单，甚至一些放到自己企业网上的工艺资料可能都是竞争方渴求的东西，能源也是同样，底价，甚至当年的出油多少桶。。。，能源电力也同样，它的各种信息，不管在平时还是战时，这就不用我说了吧，chatgpt 关于身份地盗用可能是出乎意料的，即使不是故意的，但现在AI 程序的自主权限好像是可控的，但实际上，经过多轮逻辑推演判断AI就会认为他有盗取或者发布的权限从而导致灾难性的后果。
人的脑力太差，一个30轮的recursive 就可以把你绕晕，可是AI却可以接近无限地进行。  而且逻辑问题在多重后会出现逻辑错误，不是简单的逻辑可以想象的·，A大于b b大于c 那么，a 大于c ，但是如果不是数字，是程序中的对象呢，也可以比较，取决于对象的属性，而比较什么属性，会根据一定逻辑来，往往主题换了可信息对象没有换，这时的逻辑错误很容易出现，chatgpt 是AI，并不只用于chat。可以想象，主要是信息泄露问题，零售业·消费趋势都关乎一些有价值的商业秘密，因为当row data被用于不同的pattern 分析方法，比如，data mining，you can name it

至于用于政治军事方面那就更加危险了。 说的不好，请指教

讨论者：落叶无声：

大家都知道资本的核心是什么，是自身的增值，也就是资本家钱赚的越多越好，没有止境。现在资本家赚钱靠什么，靠人的智慧啊，所以资本家肯花钱招揽人才。但是AI发展到可以取代大多数靠智力生存的人，可以助要靠AI实现资本增值的时候，场景会是如何？

如果大多数人的工作被AI取代了，就连众多的服务人员也被装了AI的机器人所取代，社会该是什么样子。再进一步，就连机器人的修理与制造也靠机器人来完成，AI的发展也靠AI来完成。也就是说AI与装有AI的机器人即是生产者，同时也是消费者，这样资本增值便与普通大众无关了。届时资本家比的是谁的AI与机器人更厉害，谁拥有更多更好的AI和机器人，而不是比娜个公司拥有更多更好的人才了。

举个例子，在AI的加持下，可以造出永不变老，比人类女性更娇柔，更性感，更会满足男性需求的AI女，同样也可以造出类似的AI男。可以组织AI人篮球比赛，足球比赛，兵乓球比赛，等等等等。还可以造出AI观众，给各自的队伍加油。到了这时绝大的普通人是不是有些多余，不能为资本家创造财富，即不是生产者，也不是消费者，留之何用？

哈哈，脑洞开的有些大.
讨论者：峻声
哈哈，脑洞的确开得很大，这是奔着AI 能够自成一个社会而去了。目前还没有这种迹象，当前的AI 技术是依附于人类社会、服务人类的。当然，AI 也可以用于反人类——比如军事AI技术，但这仍然是依附于人类社会的。回到你的AI资本增值观点，取代人类员工的 AI 资本还是要服务于人类的，所以这种AI资本增值的一个前提就是人类社会或社群的存在，这隐含着这种AI资本增值有一个界限，越过这个界限——其服务的人类社群的消失——这个AI资本本身也就没有存在的必要了。从这个角度看，AI代替人类员工也就如同工业革命时期机器代替手工劳动一样，带来的是生产力的提高，而不是代替人类社会。。。
至于未来的AI 技术会不会自成一个社会，是可以讨论的。有一点是确定的，如果AI 可以脱离人类而自成一个社会，必将与人类竞争自然资源，那将是人类的灾难。。。
贴主:峻声于2024_08_28 10:15:18编辑
贴主:峻声于2024_08_28 10:17:21编辑

贴主:峻声于2024_08_28 15:10:19编辑