AIに善意は宿るか 「ゴッドファーザー」が憂える数式
2024年3月4日 日本経済新聞
AIには死の恐怖がない、というのが決定的な差ではないかと思います。AIにはバチが当たるということの意味がわからないでしょう。AIには善意を持つメリットがありません（AIにとって、良いことをしたご褒美は何になるのか）。
AIに音楽を作らせても、それが人を感動させるかどうかまではわかりません。そのため、出力されたフレーズやハーモニーが良いかどうかは最終的には人間が判断するしかありません。これは永久に解決できない問題だと思います。