Lo primero suena posible en el próximo siglo, lo segundo también pero dudo bastante que sea parecida a la vida orgánica que ya conocemos.

Una conciencia por sí sola no, porque no sabemos exactamente qué es la conciencia orgánica ni cómo funciona. La única forma es que metas tu conciencia por medio de tu cuerpo y hardware a un mundo VR.

>O poder emular la conciencia
Lo más cercano son las redes neuronales, pero están lejos de ser perfectas y de hecho sólo suelen cumplir un propósito específico.

>Han habido avances en esto último?
Escuché de alguien haciendo una tesis sobre redes neuronales que enseñan a otras redes neuronales (transfer learning), pero no estoy seguro si tiene que ver con lo que planteas.

La inteligencia artificial y el fetichismo de "vivimos dentro de una simulación" es sólo el deseo contemporáneo de recuperar el legado del idealismo alemán y la reconfortante idea de que el universo está ordenado racionalmente por alguna mente superior.

Así es. Las computadoras solo hacen lo que se les programa hacer y nada más. La singularidad de las maquinas es un absurdo. La prueba está en que todo trabajo de IA y relacionados se centra en la apariencia, es decir hacen cosas y el resultado es lo que parece avanzar pero esto es algo que no esta pasando con el razonamiento.
Básicamente son muñecas sexuales: puedes refinar la apariencia y dejarla indistinguible a la humana, puede decirte cosas que te gustan, puede incluso aprender a moverse como te gusta pero todo su comportamiento es simple reflejo de lo que te gusta en ese espacio de tiempo determinado. Incluso si pudiera inferir tus preferencias a futuro, habría margen de error. Pero hace el trabajo.
Otro problema es que incluso si queremos crear una conciencia artificial, no solo no sabemos lo que es o de donde sale... tampoco sabemos muy bien que hace. Es decir, todo ser consciente esta percibiendo sus propias interacciones y las del entorno, las relaciona crea creencias... ser consciente es quizá la experiencia de la filosofía misma.
Como ultimo clavo: https://es.wikipedia.org/wiki/Teoremas_de_incompletitud_de_Gödel

Ya quiero vivir en un mundo similar a Pandora. El único lugar donde el capitalismo funciona.