[Warning]:ChatGPT nagbigay ng sagot na isa phishing site, may nabiktima ng $2.2M

[SatsPH]

https://x.com/osint_based/status/2095523994996707526

So babala lang to sa mga gumagamit ng ChatGPT nang pagtatanong sa lahat ng bagay. Hindi lahat ng binibigay nya ay tama at lalo sa pag nagtanong ka katulad sa halimbawa na to na kung saan daw sya mag swap.

At pagkatapos sa sobrang tiwala nya na binigay ng sagot, at huli na nya ng malamang isa palang phishing site ang sinagot sa kanya.

Kaya konting ingat din sa pag gamit ng ChatGPT at kung ano pang AI tools at hindi 100% ang binibigay nitong tamang sagot at kailangan parin nating mag beripika nito.

[tech30338]

https://x.com/osint_based/status/2095523994996707526

So babala lang to sa mga gumagamit ng ChatGPT nang pagtatanong sa lahat ng bagay. Hindi lahat ng binibigay nya ay tama at lalo sa pag nagtanong ka katulad sa halimbawa na to na kung saan daw sya mag swap.

At pagkatapos sa sobrang tiwala nya na binigay ng sagot, at huli na nya ng malamang isa palang phishing site ang sinagot sa kanya.

Kaya konting ingat din sa pag gamit ng ChatGPT at kung ano pang AI tools at hindi 100% ang binibigay nitong tamang sagot at kailangan parin nating mag beripika nito.

Hindi pa naman kasi perfect ung chatgpt at nagrereply lang din siya sa mga finifeed sa kanya, pero hindi kaya sinearch nya lang pagkatapos mali ang nakita niya, although kung pinakita ne chatgpt na duon talaga at hindi niya venerify maaring mali nga, dapat double check niya rin kasi if tama ang site na binigay, para maconfirm din ni chatgpt na tama talaga, nagkakamali din kasi, kaya dapat may checking kaparin na gagawin diyan, wag masyado kampante sa pagfollow sa instruction ng AI.

[acroman08]

That's why never take any answers coming from AI at face value, kasi ang sources din nila ay ang internet, which has a lot of false information, and in this case, phishing sites(fake websites). Ako, ginagamit ko ang AI mostly as a pointer, never kong pinaniwalaan at face value ang mga sagot ng AI.

I wonder if may balak yung biktima na mag-file ng lawsuit laban sa Chatgpt.

I think dapat nasa Pamilihan Sub-Board to.

[abel1337]

Halos ginagamit ko ang chatgpt daily and may times na naexperience ko na yung ganitong scenario. Nabigyan na din ako ng fake website/scam website ng chatgpt same sa scenario ng victim. This is why vigilant ako sa mga links na binibigay ng AI kasi alam ko na pwede ito ma manipulate at akalain ng AI na ito ay ang legit.

RAG ata yung method na pwede mo ifeed sa AI yung info mo para ikalat ito, not that much knowledgable sa technicals nito pero alam ko yan yung term para sa way nila at possible na possible na yung may ari ng fake websites is finifeed nila sa AI yung knowledge base ng website nila para mapagkamalan itong legit.

AI is very helpful pero always double check especially sa mga website since it can still be manipulated.

[coin-investor]

At pagkatapos sa sobrang tiwala nya na binigay ng sagot, at huli na nya ng malamang isa palang phishing site ang sinagot sa kanya.

Kaya konting ingat din sa pag gamit ng ChatGPT at kung ano pang AI tools at hindi 100% ang binibigay nitong tamang sagot at kailangan parin nating mag beripika nito.

Ito ang isa sa mga flow ng mga AI na hindi natin dapat ino overlook ang i verify natin ng sagot kasi ang AI ay kumukuha rin gn data sa database depende sa command prompt mo at kung incomplete o mali ang prompt mo pwedeng magkamali ang AI.
Lalot lalo na sa mga binibigay na link kung link lang hiningi mo at di ka nag add ng prompt na legit at walang bad feedback na exchange makakapunta ka nga sa phishing sites ang mga phishing sites ay manipulated ang good feedbacks.
Ito ay lesson learned para sa sa ating lahat, baka mangyari din sa atin ito.

[tech30338]

Halos ginagamit ko ang chatgpt daily and may times na naexperience ko na yung ganitong scenario. Nabigyan na din ako ng fake website/scam website ng chatgpt same sa scenario ng victim. This is why vigilant ako sa mga links na binibigay ng AI kasi alam ko na pwede ito ma manipulate at akalain ng AI na ito ay ang legit.

RAG ata yung method na pwede mo ifeed sa AI yung info mo para ikalat ito, not that much knowledgable sa technicals nito pero alam ko yan yung term para sa way nila at possible na possible na yung may ari ng fake websites is finifeed nila sa AI yung knowledge base ng website nila para mapagkamalan itong legit.

AI is very helpful pero always double check especially sa mga website since it can still be manipulated.

Kelangan talaga iverify muna bago gamitin dahil hindi naman perfect ang AI, madalas ko din gamit ang AI pero minimakesure ko din na tama ang binibigay sakin, kapag hindi ako sure or alam ko na mali kinocorrect ko sya at sinasabi nya na mali nga.
Tama malaking tulong ang AI satin pero huwag masyado magdepende, kelangan multiple options ka at may magverify hindi pwede na kung anu sabihin nya gagawin mo na agad, dahil siya ay nagiipon at nagaaral din sa mga feeds sa kanya kaya nakakasagot siya sa mga tanung.

[GreatArkansas]

First time ko na encounter ito na may ganito na nangyayari sa mga LLM models, lalo na sa Open AI ChatGPT, alarming sobra.
Dati sa google lang to like yung phishing na unang lalabas sa search result like phising na nakapasok sa Google Ads kaya madaming search result na posibling Phising. Ngayon, nasa AI na.
Nakakaalarm kasi mga ai na ang go-to app nila ngayon pag may mga question.

[RazerMouseMobile]

Noong ginagamit ko pa si ChatGPT, palagi kong nababasa ito sa bawat tanong ko sa LLM na ito.
"ChatGPT can make mistakes. Check important info."

I mean alam kong nabasa na natin ito at hindi naman natin maitatanggi na hindi perpekto si ChatGPT at ganun din yung mga ibang LLMs na anjan pero hindi ko inexpect na magbabato or magshashare ang isang LLM ng isang phishing website gaya nitong nangyari. I wonder kung makakaapekto ba itong incident na ito sa "SIRA" nang reputasyon ng OpenAI. Gaya ng post na nasa itaas, sobrang nakakaalarma ito dahil kahit ako ay nagrerely rin ako minsan sa mga LLMs sa kung ano ang legitimate website ng isang project or company.

Ngayong may incident na tayo nang ganito, sa tingin ko need na nating mag double-check, triple-check or kung maaari ay hindi na lang tayo pwede na magtanong na lang sa iisang LLM at kung maaari, magtanong na rin tayo sa iba jan gaya ni Gemini, Claude, Deepseek atbp.

[lionheart78]

Halos ginagamit ko ang chatgpt daily and may times na naexperience ko na yung ganitong scenario. Nabigyan na din ako ng fake website/scam website ng chatgpt same sa scenario ng victim. This is why vigilant ako sa mga links na binibigay ng AI kasi alam ko na pwede ito ma manipulate at akalain ng AI na ito ay ang legit.

I also experience this, ang matindi pa nga sa naexperience ko ay ng magsearch ako ng laban ng isang boxer, isipin mo gumawa ng sariling boxing match si Chatgpt na hindi naman talaga nangyari.  Kaya ng maexperience ko iyon nagcommand ako ng put into memory na iverify lahat ng information bago ito sumagot.  Pero kahit na nainput ang command, hindi pa rin talaga maiiwasan na magkamali ang chatgpt dahil nagcocolect lang din sila ng information from the internet kaya makakasagap talaga ng fake news, fake link at fake service ang AI mali mali rin ang ibibigay nitong context.

RAG ata yung method na pwede mo ifeed sa AI yung info mo para ikalat ito, not that much knowledgable sa technicals nito pero alam ko yan yung term para sa way nila at possible na possible na yung may ari ng fake websites is finifeed nila sa AI yung knowledge base ng website nila para mapagkamalan itong legit.

AI is very helpful pero always double check especially sa mga website since it can still be manipulated.

Nabasa ko ang RAG (Retrieval-Augmented Generation) ay ang paraan ng AI system to get information from external source.  Bale parang ito iyong ginagawang context para maggenerate ng response.  Kaya kung ang nakuha ng AI para sa RAG is coming from sa scam site, ito ang ibibigay nyang context sa kanyang sagot which I think na nangyari dun sa binigay na incident ni @OP.

[rbynxx]

One user cited na baka ginamitan raw ng Generative Engine Optimization na parang SEO para sa mga katulad ng ChatGPT. Hindi ko alam kung naka-basic mode lang yung victim pero sa tingin ko may pagkakaiba kung naka-pro yung feature, just my speculation pero afaik meron namang laging disclaimer na for example "AI can make mistakes". Sa tingin niyo may habol ba yung victim to ask OpenAI kung magkakaroon ng legal battle? I mean, bagong case to at yung nawala hindi lang maliit.

[xLays]

Literal na katangan nalang yung ganyan na naphishing site pa sila. Bakit hindi pumunta sa mga official social media site ng mga exchange para dun sila mag click ng official link. Bakit sa chatgpt pa eh mali mali talaga ang sagot nyan lalo ma kung link ang tatanungin mo

Alam ko merong nang case na ganito dati eh. Hindi na to first time. Parang na post na nga rin yun dito sa local board natin.

[coinrifft]

Hindi sa ganito pero may experience narin ako recently sa ChatGPT na mali mali ang binigay sa kin, kahit na binigyan ko sya ng instructions. Minsan kulang o hindi ma record or na save yung sinabi ko kahit explicit naman yung command na I-save mo ito at i-record.

Kaya ngayon, manual na lang ang ginagawa ko. Siguro mas maganda na mag sulat na lang kesa umasa pa sa mga AI.

Lessons talaga to sa atin, na kahit sinasabing advance na sila.

[robelneo]

Kaya konting ingat din sa pag gamit ng ChatGPT at kung ano pang AI tools at hindi 100% ang binibigay nitong tamang sagot at kailangan parin nating mag beripika nito.

Tama ka dyan kaya ako ingat na ingat ako sa mga links and binibigay ng AIs may prompt ako kasama na only legit and trusted sites kapag himihingi ako ng mga sources sa mga platform, nag chec check din ako kung bagong site o platform sa Whois, pagdating sa mga links hindi 100% sure na maasahan si AI, may mga sites kasi na nabili sa markets na maraming backlinks at kino convert sa phishing sites kaya nagiging reference sya ng AI.