وتقول الشركة، إن الأطفال سيتمكنون من استخدام جيميني للقيام بأشياء مثل مساعدتهم في واجباتهم المدرسية أو قراءة القصص لهم ، وكما هو الحال مع حسابات “مكان العمل للتعليم” ، تؤكد جوجل أن بيانات الأطفال لن تُستخدم لتدريب الذكاء الاصطناعي، ومع ذلك، تُحذر غوغل الآباء في البريد الإلكتروني من أن “جيميني قد يرتكب أخطاء”، وأن الأطفال “قد يشاهدون محتوى لا ترغب في رؤيته”.
وواجهت بعض روبوتات الذكاء الاصطناعي مشاكل مزعجة كثيرا ، وواجه بعض مستخدمي كاراكتر ايه اى  من الشباب صعوبة في التمييز بين روبوتات الدردشة والواقع، حيث أخبرتهم الروبوتات أنهم يتحدثون إلى شخص حقيقي ، بعد دعاوى قضائية زعمت أن الروبوتات عرضت محتوى غير لائق، فرضت الشركة قيودًا جديدة وأنظمة رقابة أبوية .

وفي حالة جيميني، تقول نصيحة غوغل عبر البريد الإلكتروني إنه ينبغي على الآباء التحدث إلى أطفالهم وشرح لهم أن الذكاء الاصطناعي ليس بشريًا وعدم مشاركة المعلومات الحساسة مع روبوت المحادثة.

وسيتمكن الأطفال دون سن 13 عامًا من تفعيل تطبيق جيميني والوصول إليه بأنفسهم عبر Google Family Link، المصمم لتمكين الآباء من مراقبة استخدام أطفالهم للأجهزة، ووضع حدود لاستخدامهم، وحمايتهم من المحتوى الضار.

وأكد المتحدث باسم جوجل، كارل رايان، في رسالة بريد إلكتروني لموقع The Verge أنه يمكن للآباء إيقاف الوصول عبر Family Link، وأنهم “سيتلقون إشعارًا إضافيًا عند وصول الطفل إلى جيميني لأول مرة”. (اليوم السابع)