Salah satu risiko terbesar dari kawin silang pada AI adalah potensi hilangnya keberagaman dalam model AI. Seperti halnya kawin silang genetik dalam biologi yang dapat menyebabkan kurangnya keberagaman genetik dan meningkatkan risiko gangguan keturunan, kawin silang pada AI dapat mengurangi keberagaman pengetahuan dan perspektif dalam sistem AI. Hal ini dapat menyebabkan model yang kurang inovatif dan lebih rentan membuat kesalahan atau memperkuat bias.

Jika model AI dilatih menggunakan data atau keluaran dari sistem AI lain yang sudah mengandung bias, bias tersebut dapat diteruskan dan bahkan diperkuat. Misalnya, jika sistem AI yang dilatih dengan data yang bias digunakan untuk menghasilkan data pelatihan baru bagi sistem AI lainnya, bias tersebut menjadi lebih mendalam dalam sistem baru. Ini dapat menyebabkan praktik dan keputusan diskriminatif, terutama di area sensitif seperti perekrutan, peradilan pidana, atau kesehatan.

Kawin silang pada AI dapat menyebabkan terciptanya sistem AI yang berfungsi dalam “ruang gema,” di mana mereka terus-menerus memperkuat ide, asumsi, dan keputusan yang sama tanpa memperkenalkan input baru atau beragam. Hal ini dapat menciptakan lingkaran umpan balik yang membatasi kemampuan sistem untuk beradaptasi dengan informasi baru atau keadaan yang berubah, yang menyebabkan keputusan yang usang atau salah.

Seiring dengan semakin otonomnya sistem AI dan semakin diandalkannya mereka untuk membuat keputusan, ada risiko bahwa pengawasan manusia mungkin akan berkurang. Jika sistem AI belajar dari sistem AI lain daripada dari data yang dihasilkan manusia, kemampuan manusia untuk memahami, membimbing, atau mengoreksi sistem ini dapat terkompromikan. Kurangnya transparansi dan akuntabilitas ini dapat memiliki konsekuensi etis dan sosial yang serius.