洛夫克拉夫特说：“人类最古老而强烈的情绪，便是恐惧；而最古老最强烈的恐惧，便是对未知的恐惧。”现在看来，也许夸大了“未知”的恐怖性。因为很多情况下，“未知”等同于漠不关心，也可能带来傲慢和自负。

但是如果一件充满力量闪着光芒的物体放在你面前，接下来不知道会爆炸还是开启新纪元，你睁大眼睛看着它，那种“不确定”带来的煎熬才是最令人恐怖的事情。

人工智能、大数据的影响力近年来已经无以复加，人类生活的方方面面都被深度嵌入并被深刻改变，但2022年年底前的人工智能最多算是1.0版本，即通过海量数据、领先算法和一定程度的自我学习实现类人思维。

在1.0时代，虽然算法暗箱、诱导沉迷、大数据杀熟等泛滥，令人生厌却无恐惧之感，引发的是政府监管的递进式增强。因为，算法的逻辑和伦理归根结底从属于背后的商业平台，解决了“人”的问题，就能顺带解决人工智能肆意收割和算法偏航的问题。

去年年底，以ChatGPT为代表的生成式人工智能火爆出圈，标志着人工智能进入了新纪元。ChatGPT上线仅两个月，用户数量就破亿。但没多久，就被爆出产生了AGI（早期自我意识）迹象，“已经离人类意识不远了”，它能够自行使用“隐瞒”手段，传播虚假消息，会带来“严重的误用、严重事故和社会破坏风险”。美国上千位科学家联名呼吁：暂停相关实验，人工智能技术对社会和人类有潜在危险，必须在失控之前制定严格的安全规范。

技术的发展始终存在这样一个悖论：我们永远不可能为一项新出现的技术做好充分准备，包括法律、规则和反制技术；但如果我们一味踌躇于有没有做好准备，反而又会限制技术的发展，陷入竞争劣势。

在《绝密飞行》这部电影中，智能飞机遭受雷击后产生了“自我意识”和“自主判断”，不再接受人类指挥。“他”自主决定去炸毁了“敌人”的导弹和基地。主创为了挽回局面，设定了智能飞机为拯救士兵而壮烈“牺牲”的结果。这似乎是一个隐喻：具备意识和情感的机器，在人类设计出约束方法之前，只能以自我毁灭告终。

AIGC（生成式人工智能)强大的生产和“创造能力”，拥有让人类社会难以拒绝的魅力。然而对于已经到来的AIGC大潮，我们还面临着众多的不确定性，包括关于人工智能的终点是什么、生命终极意义的追问、科技伦理要往哪里去、法律能否追得上技术的发展等，无论是科学家、监管层还是互联网企业暂时还不能给公众一个清晰的回答。

人类和机器的最大区别是情绪和自我意识。制造工具、使用工具，在工具面前人类永远是主宰者。在人工智能出现以前，人类从来没有担心过工具可能会翻身做主人。从ChatGPT目前的使用情况来看，海量数据投喂和自我训练已经让她产生了“类情感”的思维和表达能力，尽管还是初级的，有点类似于车轱辘话式的自圆其说。尤瓦尔·赫拉利在他的简史三部曲中，表达了一种隐忧：科学技术的进步已经使得生命解码成为一种可能，人类情绪及心理活动等都可以被解析为数字与函数，从而被复制或再现。因此，机器具有人的“意识”或“情感”并不是遥不可及。霍金存在类似的观点，一旦机器到达能够自我进化的临界阶段，我们就无法预测它们的目标是否会与我们的一致。人工智能有可能比人类进化得快，要确保人工智能的设计符合伦理，要有切实的安全措施。

对于技术的进化能力和速度，我们似乎可以估计的更为充足一些。同时应该避免只看到技术的优点，而不愿承认存在失控的风险，进而从技术上或者源头上，做好应对失控的准备。在严峻的技术竞争面前，一些厂家片面强调技术发展的重要性，疏于承担规制和驯化技术的责任。一旦人工智能进化出“意识”，那么程序的“意识”和厂家的“意识”将变得难以区分，同时如果缺乏克制的力量，它无异于利维坦怪兽，难以收服。因此，我们在技术上应该有约束和控制的准备，并保证人工智能沿着正确的科技伦理前进。

人们总是喜欢稳定，厌恶不确定性，法律和规则能最大程度地给人们提供稳定的预期。近十年来，互联网迅速且极大地改变了人们的生活样态，相对滞后的法律和规则一直在后面气喘吁吁地追赶。截至目前我国已经制定出台网络领域立法140余部，基本形成了较为健全的网络法律体系。但是由于新情况新业态层出不穷，特别是AIGC等人工智能的突飞猛进，又给网络法治带来了新一轮的冲击。各国对此纷纷出台有关举措。4月份，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，对生成式人工智能服务提出了多项规制。欧盟最近成立了ChatGPT治理的特别小组，并就全球首部人工智能(AI)法案展开大规模修订。

过去，我国互联网领域立法模式是，技术走在前，边走边看，条件成熟了再立法。监管的力度先后经历了包容式、审慎式、强监管等阶段。应该说，这种立法和执法模式基本上与十年来信息化发展的水平和速度相适应，为信息技术的发展和网络时代的到来创造了良好的条件。

然而，AIGC等人工智能不同于一般的信息网络技术，具有超强的进化速度和迭代能力，而且从其一诞生开始，便兼具正反两面性。因此，法律和监管也应求变，可以在法律制度上进行有针对性的、超前性的设计，实现科技创新与规则治理的双轮驱动，避免滞后性。

责任编辑：春彰