Para eksekutif dan karyawan TikTok sangat menyadari bahwa fitur-fiturnya mendorong penggunaan aplikasi secara kompulsif, serta dampak negatifnya terhadap kesehatan mental, menurut NPR. Organisasi penyiaran meninjau dokumen yang belum disunting dari gugatan yang diajukan oleh Kantor Kejaksaan Agung Kentucky seperti yang diterbitkan oleh Radio Publik Kentucky. Lebih dari selusin negara bagian menggugat TikTok beberapa hari yang lalu, menuduhnya melakukan “klaim palsu [that it’s] aman bagi generasi muda.” Jaksa Agung Kentucky Russell Coleman mengatakan aplikasi tersebut “dirancang secara khusus untuk menjadi mesin kecanduan, menargetkan anak-anak yang masih dalam proses mengembangkan pengendalian diri yang tepat.”
Sebagian besar dokumen yang diserahkan untuk tuntutan hukum telah menyunting informasinya, tetapi Kentucky memiliki kesalahan penyuntingan. Rupanya, penelitian TikTok sendiri menemukan bahwa “penggunaan kompulsif berkorelasi dengan banyak efek negatif terhadap kesehatan mental seperti hilangnya keterampilan analitis, pembentukan memori, pemikiran kontekstual, kedalaman percakapan, empati, dan peningkatan kecemasan.” Para eksekutif TikTok juga mengetahui bahwa penggunaan kompulsif dapat mengganggu tanggung jawab tidur, pekerjaan dan sekolah, dan bahkan “berhubungan dengan orang-orang tercinta”.
Mereka dilaporkan juga mengetahui bahwa alat manajemen waktu pada aplikasi tersebut hampir tidak membantu menjauhkan pengguna muda dari aplikasi tersebut. Meskipun alat ini menetapkan batas default penggunaan aplikasi menjadi 60 menit sehari, remaja masih menghabiskan 107 menit di aplikasi bahkan ketika aplikasi diaktifkan. Itu hanya 1,5 menit lebih singkat dibandingkan rata-rata penggunaan 108,5 menit sehari sebelum alat ini diluncurkan. Berdasarkan dokumen internal, TikTok mendasarkan keberhasilan alat ini pada bagaimana alat tersebut “berkembang[ed] kepercayaan publik terhadap platform TikTok melalui liputan media.” Perusahaan mengetahui bahwa alat tersebut tidak akan efektif, dengan satu dokumen mengatakan bahwa “[m]anak-anak tidak memiliki fungsi eksekutif untuk mengontrol waktu pemakaian perangkat mereka, sedangkan orang dewasa muda memilikinya.” Dokumen lain dilaporkan mengatakan bahwa “di sebagian besar metrik keterlibatan, semakin muda pengguna, semakin baik kinerjanya.”
Selain itu, TikTok dilaporkan mengetahui adanya “gelembung filter” dan memahami potensi bahayanya. Para karyawan melakukan studi internal, menurut dokumen tersebut, di mana mereka mendapati diri mereka tersedot ke dalam gelembung filter negatif segera setelah mengikuti akun tertentu, seperti akun yang berfokus pada konten yang menyakitkan (“painhub”) dan sedih (“catatan sedih”). Mereka juga mengetahui konten dan akun yang mempromosikan “inspirasi”, yang dikaitkan dengan gangguan makan. Karena cara kerja algoritme TikTok, para peneliti menemukan bahwa pengguna ditempatkan ke dalam gelembung filter setelah 30 menit digunakan dalam sekali duduk.
TikTok juga sedang berjuang dengan moderasi, menurut dokumen tersebut. Investigasi internal menemukan bahwa gadis-gadis di bawah umur di aplikasi tersebut mendapatkan “hadiah” dan “koin” sebagai imbalan atas penari telanjang secara langsung. Dan petinggi perusahaan dilaporkan menginstruksikan moderator mereka untuk tidak menghapus pengguna yang dilaporkan berusia di bawah 13 tahun kecuali akun mereka menyatakan bahwa mereka memang berusia di bawah 13 tahun. NPR mengatakan TikTok juga mengakui bahwa sejumlah besar konten yang melanggar aturannya harus melalui teknik moderasi, termasuk video yang menormalkan pedofilia, mengagungkan kekerasan seksual ringan, dan kekerasan fisik.
Juru bicara TikTok Alex Haurek membela perusahaan tersebut dan mengatakan kepada organisasi tersebut bahwa keluhan Kentucky AG “mengambil kutipan yang menyesatkan dan mengambil dokumen usang di luar konteks untuk menggambarkan secara keliru komitmen kami terhadap keselamatan komunitas.” Dia juga mengatakan bahwa TikTok memiliki “perlindungan yang kuat, termasuk secara proaktif menghapus pengguna yang dicurigai di bawah umur” dan bahwa TikTok “secara sukarela meluncurkan fitur keamanan seperti batas waktu layar default, pemasangan keluarga, dan privasi secara default untuk anak di bawah umur 16 tahun.”